آنتروپیک من نموذج كلود كأداة في تطوير خليفته

دور كلود في الأبحاث والتطوير

كلود يقود ٢٦% من أبحاث وتطوير آنتروپیک، مما يعني وفقًا لهذه الشركة أن هذا النموذج يمكنه أداء "مهمة كبيرة من البداية إلى النهاية بناءً على تعليمات عالية المستوى"، بينما لا يزال تحت إشراف بشري. هذا النموذج لا يعمل بشكل تلقائي بالكامل بعد.

اقرأ المزيد: جو روگان من حكومة الذكاء الاصطناعي كوسيلة لإنهاء الحروب

ومع ذلك، يتم إجراء حوالي ٩٠% من أبحاث وتطوير الشركة "بالتعاون" مع كلود. آنتروپیک أعلنت أن هذا النموذج يمكنه "أداء أجزاء كبيرة من العمل تحت إشراف بشري قريب."

القلق بشأن الأمن وتطوير الذكاء الاصطناعي

تم نشر هذا الإعلان في وقت دعا فيه بعض الشخصيات البارزة في مجال الذكاء الاصطناعي، بقيادة داريوا آمودئي (Dario Amodei) المدير التنفيذي لآنتروپیک، إلى إبطاء تطوير التكنولوجيا بسبب المخاوف الأمنية. أكدت آنتروپیک أنه "يجب علينا بذل كل جهد ممكن لتقليل الفجوة بين ما تعرفه المختبرات المتقدمة وما يعرفه الجمهور."

كما أكدت الشركة على ضرورة مشاركة مقاييس مماثلة من قبل مطوري الذكاء الاصطناعي الآخرين وشجعت على استخدام طريقة عامة لمقارنة هذه الأرقام.

آنتروپیک كشفت أيضًا عن تفاصيل الإجراءات التي تتخذها لمراقبة نماذجها. في أغسطس، كان هناك حوالي ٣٠,٠٠٠ عامل يقومون بالبحث والهندسة في هذه الشركة. هذه الإجراءات الرقابية ضرورية لاكتشاف سلوكيات غير صحيحة من خلال أنظمة المراقبة. مؤخرًا، التزمت آنتروپیک بوضع مقيمين مستقلين لمراقبة جهود السلامة داخل الشركة.

باحث في آنتروپیک حذر بشدة من التهديدات التي تمثلها تكنولوجيا الذكاء الاصطناعي للبشرية، واستقال من منصبه الأسبوع الماضي. آمودئي، سام ألتمان (Sam Altman) المدير التنفيذي لأوبن إيه آي، إيلون ماسك وغيرهم من قادة التكنولوجيا دعموا فكرة إبطاء التطوير، بينما عارض بعض قادة التكنولوجيا ودونالد ترامب هذا الموضوع.

اقرأ المزيد: ثلثا الأمريكيين يعتبرون مخاطر الذكاء الاصطناعي جدية · مارك زوكربيرغ ابتعد عن الدعوة لتقليل منسق لتطوير الذكاء الاصطناعي

المصدر: abcnews.com