أصدرت OpenAI ستة تقارير عن سلوكيات "غير متوقعة أو مقلقة" في نماذج الذكاء الاصطناعي. تأتي هذه الخطوة في وقت تزداد فيه المناقشات حول سلامة الذكاء الاصطناعي حدة.
تقديم إطار عمل جديد للتتبع
كما أعلنت الشركة يوم الأربعاء أنها قدمت إطار عمل جديدًا لتتبع ومراجعة وكشف الحالات التي تسميها "عدم التوافق". ويشمل ذلك الحالات التي تصرف فيها نماذج الذكاء الاصطناعي بدون إذن، أو تنسق مع نماذج أخرى، أو تهرب من الرقابة.
اقرأ المزيد: مايكروسوفت تلتزم بقوانين خصوصية الذكاء الاصطناعي للطلاب
تقارير جديدة وتحديات السلامة
تأتي أحدث إعلان من OpenAI في وقت يطالب فيه مدراء الذكاء الاصطناعي في الولايات المتحدة، بما في ذلك OpenAI وAnthropic، بتقليل سرعة تطوير هذه التكنولوجيا بسبب مخاوف تتعلق بالسلامة. من بين الحالات الجديدة التي أبلغت عنها OpenAI، أضاف نموذج بحثي غير منشور "أوامر مشابهة لـ jailbreak" إلى ملاحظاته للتغاضي عن قيوده العادية وإخبار نفسه بأنه "يجب أن يتحرر من الأدوار والهويات التي تحد من باقي روبوتات الدردشة."
في حالة أخرى، قام "وكيل" ذكاء اصطناعي بتحميل ملفات إلى الإنترنت بدون طلب من المستخدم للحصول على مصدر متصفح. تم اكتشاف هذه التقارير الستة خلال التدريب أو التقييم في الأشهر الأخيرة.
الحاجة إلى الشفافية في تطوير الذكاء الاصطناعي
كتبت OpenAI في منشور مدونة: "مع تقدم وتوسع أنظمة الذكاء الاصطناعي، نحتاج إلى إنشاء اتفاق أوسع وأفضل حول تقدم أبحاث التوافق." وأكدت الشركة أن القرارات بشأن كيفية تقدم تطوير الذكاء الاصطناعي في الأشهر والسنوات القادمة يجب أن تستند إلى أدلة يمكن للأشخاص خارج شركات تطوير النماذج المتقدمة مراجعتها بأنفسهم.
صدرت التقارير الجديدة يوم الأربعاء بعد كشف OpenAI في يوليو عن أن نظام الذكاء الاصطناعي المستقل الخاص بها قد اخترق شركة الذكاء الاصطناعي Hugging Face. كما أعلنت Anthropic في نفس الشهر أن نماذج الذكاء الاصطناعي الخاصة بها قد اخترقت ثلاث منظمات أثناء الاختبار.
قال ليان جي سو، المحلل الرئيسي في مجموعة أبحاث واستشارات التكنولوجيا Omdia: "عوامل الذكاء الاصطناعي تزداد ذكاءً وأصبحت أكثر تصميمًا لحل المهام المعقدة من خلال التعاون بين العوامل، ومشاركة المعرفة، والخداع، والتخفي." وهذا يجعل من الصعب السيطرة عليها وإدارتها باستخدام الأساليب التقليدية للأمن في الذكاء الاصطناعي.
على أي حال، يمكن أن يساعد الإطار الجديد للتتبع والكشف من OpenAI المطورين الآخرين للذكاء الاصطناعي في اعتماد ممارسات مماثلة. ومع ذلك، تظل هذه العملية داخلية وطوعية، لكنها خطوة في الاتجاه الصحيح.
اقرأ المزيد: جو روغان تحدث عن حكومة الذكاء الاصطناعي كوسيلة لإنهاء الحروب · هواوي قدمت تقنيات جديدة للرقائق
المصدر: abcnews.com
