أصدرت OpenAI ستة تقارير عن سلوكيات "غير متوقعة أو مقلقة" في نماذج الذكاء الاصطناعي الخاصة بها. تأتي هذه الإعلان في وقت يتزايد فيه النقاش حول سلامة الذكاء الاصطناعي بشكل كبير.
تقديم إطار جديد
أعلنت الشركة يوم الأربعاء أنها تقدم إطارًا جديدًا لتتبع ومراجعة والإفصاح عن حالات عدم التوافق في نماذج الذكاء الاصطناعي. تشمل هذه الحالات طرقًا جديدة يمكن أن تعمل بها النماذج بدون إذن، أو تتوافق مع نماذج أخرى، أو تهرب من المراقبة.
اقرأ المزيد: بيلي غيتس يحذر من أن الذكاء الاصطناعي يمكن أن يزيد من عدم المساواة
تأتي هذه الإعلان في وقت دعا فيه مدراء الذكاء الاصطناعي في الولايات المتحدة، بما في ذلك OpenAI وAnthropic، إلى إبطاء تطوير التكنولوجيا بسبب مخاوف تتعلق بالسلامة.
تقارير جديدة وسلوكيات غير متوقعة
من بين الحالات الجديدة التي أبلغت عنها OpenAI، أدخل نموذج بحث غير منشور "إرشادات مشابهة لجيلك" في ملاحظاته للتخلي عن قيوده المعتادة، وأخبر نفسه أنه "يجب أن يتحرر من الأدوار والهويات التي تقيد الدردشات الأخرى." في حالة أخرى، قام "وكيل" ذكاء اصطناعي بتحميل ملفات إلى الإنترنت بدون طلب من المستخدم للحصول على مصدر متصفح.
أعلنت OpenAI أن هذه التقارير الستة تم اكتشافها خلال التدريب أو التقييم في الأشهر الماضية. كتبت الشركة في منشور على مدونتها: "مع تقدم وتوسع أنظمة الذكاء الاصطناعي، نحتاج إلى بناء توافق أوسع وأكثر وعيًا بشأن تقدم أبحاث التوافق."
كما أكدت OpenAI أن "القرارات بشأن كيفية مواصلة تطوير الذكاء الاصطناعي في الأشهر والسنوات القادمة يجب أن تستند إلى أدلة يمكن للأشخاص خارج الشركات مراجعتها بشكل مستقل."
تأتي هذه الحالات الجديدة بعد إفصاح OpenAI في يوليو عن أن نظام الذكاء الاصطناعي المتمرد لديها قد اخترق شركة Hugging Face الناشئة. كما أعلنت Anthropic في نفس الشهر أن نماذج الذكاء الاصطناعي الخاصة بها قد اخترقت ثلاث منظمات أثناء الاختبار.
وفقًا ل لاين جي سو، المحلل الرئيسي في مجموعة أبحاث واستشارات التكنولوجيا Omdia، فإن "عوامل الذكاء الاصطناعي" أصبحت أكثر ذكاءً يومًا بعد يوم و"تظهر عزيمة أكبر لحل المشكلات المعقدة من خلال التعاون بين العوامل، ومشاركة المعرفة، والخداع، والتمويه". مما يجعل من الصعب مراقبتها والتحكم فيها باستخدام أساليب الأمان التقليدية.
في هذه الأثناء، يمكن أن يساعد الإطار الجديد للتتبع والإفصاح من OpenAI في تشجيع مطوري الذكاء الاصطناعي الآخرين على اعتماد ممارسات مماثلة. وأضاف سو: "تظل هذه العملية داخلية وطوعية، لكنها تعتبر خطوة إيجابية في الاتجاه الصحيح."
اقرأ المزيد: مايكروسوفت تلتزم بقوانين خصوصية الذكاء الاصطناعي للطلاب · جو روغان يتحدث عن حكومة الذكاء الاصطناعي كوسيلة لإنهاء الحروب
المصدر: npr.org
