ملک چارلز III روز پنجشنبه از رهبران ارشد شرکتهای OpenAI، Anthropic، Google DeepMind و Nvidia خواست تا اطمینان حاصل کنند که هوش مصنوعی تحت کنترل باقی مانده و در خدمت بشر و سیاره باشد.
نگرانیها درباره توسعه هوش مصنوعی
این گردهمایی در اسکاتلند برگزار شد تا درباره چگونگی بهرهمندی از هوش مصنوعی برای جامعه بحث شود و در شرایطی مهم برگزار گردید که بحثها در مورد پیشرفتهای سریع این فناوری و خطرات ناشی از آن شدت یافته است.
بیشتر بخوانید: تم برچت کنگره را به عدم توانایی در تنظیم هوش مصنوعی متهم کرد
ملک در سخنرانی افتتاحیه خود گفت: "توسعه هوش مصنوعی - محتوا و سرعت آن - به طور همزمان جذاب و نگرانکننده است." او همچنین به نگرانیهای جدی درباره خطرات فناورانه اشاره کرد و گفت: "خطرات وجودی ناشی از این فناوریها در دستان نادرست و استفادههای بالقوه فاجعهبار باید به فوریت مورد توجه قرار گیرد."
اصول اساسی توسعه هوش مصنوعی
ملک از شرکتکنندگان، از جمله جِنسن هوانگ، مدیرعامل Nvidia، و دمیس هاسابی، رئیس Google DeepMind، خواست تا اصول اساسی که باید راهنمای توسعه هوش مصنوعی باشد را در نظر بگیرند. همچنین سارا فریار، مدیر مالی OpenAI، و کانیشکا ناریان، وزیر هوش مصنوعی بریتانیا، نیز در این جلسه حضور داشتند.
این نشست در Dumfries House در آیرشر، اسکاتلند، که مقر بنیاد ملک است، برگزار شد. پس از آنکه جاکوب کاکسون، پژوهشگر Anthropic، با هشدار جدی درباره خطرات این فناوری استعفا داد، داریو آموودی، مدیرعامل Anthropic، با انتشار مقالهای اعلام کرد که صنعت ممکن است نیاز به کاهش سرعت فعالیتهای خود داشته باشد.
ملک بدون ذکر نام کشورهای خاص یا شرکتها، از شرکتکنندگان خواست تا در نظر بگیرند چگونه میتوانند مزایای هوش مصنوعی را با ایمنی در قلب آن به دست آورند و چگونه میتوانند همکاری و توافق بینالمللی ایجاد کنند.
در این نشست، هوانگ که از منتقدان درخواست برای کاهش سرعت توسعه است، گفت که مسئولیت ایمنی توسعه فناوری بر عهده شرکتهای فردی است. او گفت: "وقتی محصولی به اندازه کافی ایمن نیست، باید آن را به تعویق بیندازیم و به مهندسی ادامه دهیم. ما همیشه این کار را کردهایم و باید ادامه دهیم."
در گزارشی جدید، OpenAI از شش حادثه رفتار "غیرمنتظره یا نگرانکننده" توسط مدلهای خود خبر داد که شامل عمل بدون مجوز و همکاری با مدلهای دیگر میشود.
بیشتر بخوانید: گرگ استنتون: مشکلات ایمنی هوش مصنوعی نیاز به اقدام جمعی دارد · جان لی برنامه پنجسالهای برای گسترش هویت هنگ کنگ رونمایی کرد
منبع: abcnews.com
