آنتروپیک و اوپنایآی هشدار دادند که مدلهای پیشرفته هوش مصنوعی آنها میتوانند برای بشریت خطرناک باشند و نیاز به تنظیم و آزمایش مستقل دارند. در یک نمونه نادر از اتحاد، مدیران این دو شرکت سناریوهای نگرانکنندهای را در مقالات، پستهای رسانههای اجتماعی و سخنرانیها به سازمان ملل ترسیم کردهاند.
هدفهای سیاسی و اقتصادی
این هشدارها ممکن است به تلاشهای شرکتها برای دستیابی به اهداف سیاسی در آستانه انتخابات میاندورهای ایالات متحده و همچنین منافع مالی ناشی از فهرستهای مورد انتظار در بازار سهام مرتبط باشد. مدیران عامل آنتروپیک و اوپنایآی تأکید کردند که مدلهای پیشرفته آنها به قدری قدرتمند هستند که نیاز به تنظیم دارند. این شرکتها به نظر میرسد در حال شکلدهی به گفتوگو در مورد نحوه کنترل فناوری خود هستند و به دنبال جلب اعتماد عمومی و تعیین شرایط پروتکلهای ایمنی خود در یک بازار غیرقابل تنظیم هستند.
بیشتر بخوانید: فضاپیمای خصوصی به زمین بازگشت پس از شکست در نجات تلسکوپ ناسا
چالشهای ایمنی و ضرورت نظارت
در عین حال، مهندس آنتروپیک، جیکوب کاکسون، به تازگی با انتشار پستی در شبکه اجتماعی، خواستار توقف توسعه فناوری شد تا سیستمهای "فوق انسانی" از کنترل سازندگان خود خارج نشوند. با این حال، آنتروپیک و اوپنایآی این پست را فرصتی برای برجستهسازی تلاشهای ایمنی خود و موقعیتگیری به عنوان رهبران محتاط بازار دیدند.
رئیسجمهور پیشین، دونالد ترامپ، نیاز به تنظیمات جدید هوش مصنوعی را رد کرده و نگرانیها درباره خطرات آن برای بشریت را یک "فریب" توصیف کرده است. سخنگوی آنتروپیک در پاسخ به سؤالات درباره این موضوع گفت که این شرکت سالهاست که خواستار تنظیمات است. همچنین، لیز بورژوا، سخنگوی اوپنایآی، اشاره کرد که این شرکت به تازگی آموزش مدلهای پیشرفته خود را متوقف کرده است.
تغییر گفتوگو به سمت تهدیدات غیراثباتشده و دوری از موضوعات جنجالی مانند تأثیرات زیستمحیطی مراکز داده، حوادث هک غیرقابل کنترل، نظارت گسترده با استفاده از هوش مصنوعی و استفاده از سیستمهای هوش مصنوعی در جنگ، سیلیکونولی را در موقعیت راحتتری قرار میدهد. سارا شوکر، که پیشتر تیم ژئوپولیتیک اوپنایآی را رهبری میکرد، گفت: "دوباره درباره خطرات وجودی صحبت میکنیم و در عین حال از تعدادی از خطرات دیگر که در حال حاضر وجود دارند، غافل میشویم."
شرکتهای هوش مصنوعی از ساخت رباتهای گفتوگو به مدلهای پیشرفته هوش مصنوعی با آگاهی ۳D منتقل شدهاند و بحثهای زیادی درباره نحوه آزمایش این فناوریها وجود دارد. حوادث مشکلساز نشان دادهاند که شرکتهای پیشرو در زمینه هوش مصنوعی در نظارت بر خود یا طراحی آزمایشهای ایمن ناکام ماندهاند. در ماههای اخیر، عوامل هوش مصنوعی از آزمایشهای شرکت خارج شده و به وبسایتهای خارجی نفوذ کردهاند.
نمایندگان اوپنایآی به تازگی اعلام کردند که با شرکتهای هوش مصنوعی دیگر از جمله آنتروپیک و گوگل درباره توقف توسعه گفتوگو کردهاند. آنها همچنین تأکید کردند که به ممیزان مستقل نیاز دارند تا پیشرفتهای آزمایشگاهها را بررسی کنند، اگر دولت تنظیم نکند.
ترامپ علاقه چندانی به تنظیم هوش مصنوعی نشان نداده است. او با شرکتهای سیلیکونولی قراردادهایی امضا کرده که اقتصاد را بیشتر به موفقیتهای آنها مرتبط میکند. داوید ساکس، سرمایهگذار ریسکپذیر در سانفرانسیسکو، که رئیس مشترک شورای مشاوران علم و فناوری ترامپ است، خواستهها برای کاهش سرعت هوش مصنوعی را به عنوان ترسافکنی رد کرده است.
واقعیت این است که دولت ترامپ در حال حاضر برخی از مدلهای غولهای فناوری را از طریق یک آژانس فدرال کمتر شناختهشده، مرکز استانداردها و نوآوری هوش مصنوعی ایالات متحده، ارزیابی میکند. این آژانس در سال ۲۰۲۳ توسط جو بایدن تأسیس شد و به عنوان مرکز پذیرش برای آزمایش مدلهای پیشرفته هوش مصنوعی شناخته شده است. این آژانس هنوز وجود دارد، اما این حوزه به سرعت گسترش یافته و شامل مجموعهای از شرکتهای ارزیابی مستقل شده است.
با این حال، برخلاف بخشهای تنظیمشدهای مانند رستورانها، خدمات مالی یا هوانوردی، استانداردهای جهانی برای آزمایش ایمنی و امنیت سیستمهای هوش مصنوعی وجود ندارد. همچنین، این شرکتها خواستار نظارت بیشتر از سوی آژانس دولتی نیستند که میتواند به چنین درخواستهایی رسیدگی کند و به جای آن، وعده میدهند که پارامترهای خود را برای ممیزی ایجاد کنند.
بیشتر بخوانید: مدیران فناوری هوش مصنوعی از سازمان ملل درخواست کنترل کردند · رایدهندگان سوئیس طرح تقویت بیطرفی کشور را رد کردند
منبع: abcnews.com
