رهبران برجسته صنعت هوش مصنوعی از جمله داریو آمودئی از آنتروپیک، سم آلتمن از اوپنای آی و ایلان ماسک از اسپیسای آی، اخیراً بر لزوم کند کردن توسعه هوش مصنوعی توافق کردند. این توافق پس از استعفای یکی از محققان آنتروپیک و هشدار او درباره تهدیدات این فناوری برای بشریت به عمل آمد.
چالشهای پیش روی توسعه هوش مصنوعی
با وجود این توافق، موانع متعددی همچون رقابت داخلی و جهانی، انگیزههای سود و فشارهای سیاسی از سوی مقامات ایالات متحده، به ویژه دونالد ترامپ، بر سر راه یک تلاش هماهنگ برای کنترل سرعت توسعه هوش مصنوعی وجود دارد. نیک ریس، مدیر پیشین سیاست فناوریهای نوظهور در وزارت امنیت داخلی، بر این باور است که این لحظه میتواند صنعت را به بازنگری در تعریف موفقیت وادار کند.
بیشتر بخوانید: محاکمه توطئه جرمزایی هوآوی در نیویورک آغاز شد
ریس میگوید: "اگر ما موفقیت در هوش مصنوعی را همانند موفقیت در صنعت هواپیمایی در نظر بگیریم، این موفقیت به معنای برقراری پرواز به موقع و بدون سانحه است." وی همچنین اشاره میکند که در حالی که ما سقوطهای تجاری هواپیما را تحمل نمیکنیم، اما شکستهای قابل توجه در هوش مصنوعی قابل تحمل به نظر میرسند.
طرح آمودئی برای کند کردن توسعه
آمودئی به تازگی یک مقاله مفصل منتشر کرده که در آن طرحی برای کند کردن توسعه هوش مصنوعی پیشرفته ارائه داده است. یکی از پیشنهادات او این است که شرکتهای پیشرو در حوزه هوش مصنوعی، که به عنوان آزمایشگاههای مرزی شناخته میشوند، متعهد به ارائه دسترسی مداوم و مشابه کارکنان به ارزیابان مستقل شوند. تیمهای ارزیابی باید دارای دفاتر، کارتهای دسترسی و لپتاپهای شرکتی باشند تا بتوانند شیوههای ایمنی را نظارت کنند.
آمودئی اعلام کرده که آنتروپیک به طور یکجانبه به این گام متعهد شده است. آلتمن نیز این طرح را در رسانههای اجتماعی به عنوان "ایدهای عالی" توصیف کرده و اعلام کرده که اوپنای آی نیز از این تصمیم پیروی خواهد کرد.
آلتمن همچنین از یک "چارچوب فدرال" برای تعیین استانداردهای ایمنی هوش مصنوعی پیشرفته استقبال کرده است و معتقد است که شرکتها نیازی به انتظار برای قانونگذاری یا معافیتهای ضد انحصار قبل از پرداختن به ایمنی هوش مصنوعی ندارند.
در مقاله آمودئی همچنین به نیاز به مقررات و مداخله دولت اشاره شده است، به طوری که همکاری بین شرکتهای پیشرو در هوش مصنوعی با کمک دولت ایالات متحده و دولتهای دیگر کشورهای دموکراتیک تسهیل شود. او ابراز امیدواری کرد که آزمایشگاههای پیشرو بتوانند استانداردهای ایمنی مشترک و محدودیتهایی برای نرخ پیشرفت بیضابطه هوش مصنوعی تعیین کنند.
چالشهای بینالمللی و موانع عملی
آمودئی همچنین به همکاری کشورهای دموکراتیک با "دولتهای خودکامه" اشاره کرد و به چالشهایی که به ویژه در زمینه همکاری با چین وجود دارد، اذعان کرد. او سطوح مختلف توافقنامههایی را که رهبران جهانی میتوانند امضا کنند، تشریح کرده و گفت که سادهترین توافق ممکن است ممنوعیت "برخی استفادههای باریک و به وضوح خطرناک از هوش مصنوعی" باشد، مانند تولید سلاحهای بیولوژیک.
با این حال، او همچنین اشاره کرد که دستیابی به توافق بر سر آزمایش مدلها قبل از انتشار، مخصوصاً در زمینههایی مانند امنیت سایبری یا تهدیدات بیولوژیکی، بسیار دشوار خواهد بود. او بیان کرد که تعیین "حد سرعت" برای مدلهای هوش مصنوعی که میتوانند نسخههای بهبود یافته از خود تولید کنند، چالشی بزرگ خواهد بود.
آلتمن در رسانههای اجتماعی اعلام کرد که "تنظیم سرعت" توسعه هوش مصنوعی به معنای توقف آن نیست و پیشرفت در این زمینه همچنان ادامه خواهد داشت. او همچنین بر این نکته تأکید کرد که "هرگونه فشار رقابتی از جانب آمریکا نباید توجیهی برای بیاحتیاطی باشد." در حالی که کارشناسان این توافق را امیدوارکننده میدانند، سوالات زیادی بدون پاسخ باقی مانده است.
بیشتر بخوانید: نگرانیهای عمیق در دل توسعهدهندگان هوش مصنوعی: آیا سرعت به قیمت ایمنی تمام میشود؟ · رهبران کلیدی هشدار دربارهٔ توسعهٔ هوش مصنوعی را صادر کردند
منبع: abcnews.com
