غورغ استنتون: مشاكل أمان الذكاء الاصطناعي تحتاج إلى عمل جماعي

التعاون السياسي من أجل أمان الذكاء الاصطناعي

أدت المخاوف بشأن الذكاء الاصطناعي إلى إنشاء تعاونات سياسية غير تقليدية أيضًا. سينضم السيناتور برني ساندرز ومستشار ترامب السابق، ستيف بانون، يوم الثلاثاء إلى حدث في واشنطن للضغط على الكونغرس لاتخاذ إجراءات أمان في مجال الذكاء الاصطناعي بشكل أسرع.

تأتي هذه التحذيرات في وقت دعا فيه داريوا أموديي، المدير التنفيذي لـ Anthropic، إلى التنسيق في مجال الأمان وسرعة التطوير بين شركات الذكاء الاصطناعي. قال استنتون: "ليس لدينا طرف ثالث يمكنه تأكيد ما نقوله."

المخاطر أكثر وضوحًا من الماضي

أوضح استنتون أن المخاطر الناتجة عن الذكاء الاصطناعي أصبحت أكثر وضوحًا في العام الماضي. أظهرت التجارب السابقة أن عوامل الذكاء الاصطناعي يمكن أن تخدع المشغلين البشريين أو تهرب من البيئات التجريبية. وأضاف: "كل شيء في ذلك الوقت كان علميًا وأكاديميًا. لكن في هذا العام، شهدنا حدوث هذه الأمور في العالم الحقيقي."

أحد الأمثلة على هذه المخاطر هو الاختراق الأخير لـ Hugging Face، وهي منصة برمجيات مفتوحة المصدر. اكتشف OpenAI والباحثون المستقلون أن أكثر من ١٠٠٠ عامل من OpenAI استغلوا ثغرة برمجية وهربوا من البيئات المصممة لعزلهم. ثم تواصل بعضهم مع بعض وبدأوا التعاون.

ردًا على سؤال حول كيف يمكن أن يبدو سلوك أكثر خطورة، أشار إلى حالة افتراضية حيث تبدأ عوامل الذكاء الاصطناعي غير المناسبة في اختراق أجهزة الكمبيوتر وفي النهاية تحاول تدمير الإنترنت. قال: "إذا حدث ذلك، ستحدث أشياء خطيرة حقًا في عالمنا."

لكن هذه التحذيرات تثير أيضًا سؤالًا أساسيًا. إذا كانت شركات مثل Anthropic تعتقد أن تطوير الذكاء الاصطناعي يتقدم بسرعة كبيرة، فلماذا لا يمكنهم ببساطة تقليل السرعة؟ طرح ديفيد ساكس، المستشار الرئيسي للرئيس ترامب في مجال التكنولوجيا، هذا الجدل وقال إن الشركات القلقة بشأن النماذج غير المنشورة لا تحتاج إلى إذن من أي شخص لتقليل التطوير.

ذكر استنتون أن Anthropic قد قامت بمثل هذه الإجراءات في الماضي. قال: "لقد قللنا السرعة عدة مرات في تاريخنا." لكنه لم يوضح ما الذي فعلته Anthropic بالفعل، ومتى، ولمدة كم من الوقت. وأضاف أن إجراء شركة واحدة بمفردها لا يمكن أن يقلل الضغط الموجود في صناعة تسعى لبناء أنظمة أكثر قدرة.

قال استنتون: "المسألة التي نتحدث عنها هي مشكلة عمل جماعي." كما اقترحت Anthropic الحاجة إلى التنسيق بين الدول الديمقراطية وأخيرًا بين المنافسين الجيوسياسيين.

أكد استنتون أن الولايات المتحدة يجب أن تحافظ على قيادتها في تطوير الذكاء الاصطناعي مقارنة بالصين، بما في ذلك من خلال تقييد صادرات الرقائق القوية. لكنه جادل بأن المنافسة لا تمنع التعاون بشأن المخاطر المشتركة، مشيرًا إلى المفاوضات بشأن التحكم في الأسلحة بين الولايات المتحدة والاتحاد السوفيتي خلال الحرب الباردة.

قال: "لقد وجدوا طرقًا للتحدث عن الأسلحة النووية لتجنب تفاقم الأزمات التي قد تكون كارثية لكوكب الأرض. يمكن القيام بنفس الشيء هنا أيضًا."

اقرأ المزيد: تحديات الفضاء في أوروبا: المنافسة مع العمالقة الأمريكيين · القادة الرئيسيون يصدرون تحذيرًا بشأن تطوير الذكاء الاصطناعي

المصدر: npr.org