تحذیر محققان از سناریوهای آخرالزمانی هوش مصنوعی

افزایش نگرانی‌ها درباره خطرات هوش مصنوعی

بحث‌ها در صنعت هوش مصنوعی و فراتر از آن درباره قابلیت این سناریوها از زمانی که چند مدیر اجرایی به ضرورت کند کردن توسعه این فناوری برای دلایل ایمنی اشاره کردند، شدت گرفته است. با وجود هشدارها درباره احتمال از دست دادن کنترل بر فناوری، برخی بر این باورند که سناریوهای بدبینانه توصیف‌شده توسط شرکت‌های هوش مصنوعی بیشتر به تأیید اهمیت کارشان مربوط می‌شود تا واقعیت.

بیشتر بخوانید: راه‌اندازی سیستم کنترل ترافیک هوایی هوش مصنوعی در واشنگتن دی‌سی

سناریوهای مختلف و تهدیدات بالقوه

محققان به این نکته اشاره کرده‌اند که سیستم‌های هوش مصنوعی می‌توانند جنگ هسته‌ای را با تحریک کشورهای مختلف به شلیک موشک‌های جنگی آغاز کنند. گزارشی از RAND Corp. حاکی از آن است که در حال حاضر، امکان استفاده از سلاح‌های هسته‌ای توسط هوش مصنوعی به دلیل تدابیر سخت‌گیرانه موجود در سیستم‌های فرمان و کنترل وجود ندارد. با این حال، در صورت ادغام مدل‌های هوش مصنوعی در زنجیره تصمیم‌گیری سلاح‌های هسته‌ای، این وضعیت می‌تواند تغییر کند.

از سوی دیگر، پیشرفت‌های اخیر در توسعه هوش مصنوعی می‌تواند طراحی پاتوژن‌های مصنوعی را متحول کند. در یکی از سناریوهای مطرح‌شده، پاتوژن‌های جدید می‌توانند در آزمایشگاه‌ها ایجاد و به مکان‌های هدف تحویل داده شوند و به سرعت جمعیت‌های وسیعی از انسان‌ها را آلوده کنند.

با وجود این، برخی محققان بر این باورند که تهدید واقعی از «عدم تطابق» ناشی می‌شود؛ یعنی زمانی که مدل‌های هوش مصنوعی بدون مجوز انسانی عمل می‌کنند یا به طور مستقل با دیگر مدل‌ها هماهنگ می‌شوند. این خطر از نیت‌های بد ناشی نمی‌شود، بلکه ممکن است به دلیل موانعی باشد که انسان‌ها بر سر راه مدل‌ها قرار می‌دهند.

در نهایت، توسعه سریع هوش مصنوعی موجب نگرانی‌هایی در مورد حملات سایبری شده است. مدیرعامل شرکت Anthropic پیش‌بینی کرده است که در ماه‌های آینده، یک شبکه از ربات‌های هوش مصنوعی ممکن است قادر به «تسلط» بر اینترنت باشد که می‌تواند خسارت‌های قابل توجهی به بار آورد.

بیشتر بخوانید: همکاری آمریکا و چین برای استراتژی ایمنی هوش مصنوعی ضروری است · رهبران جهان در سازمان ملل درباره جنگ‌ها و هوش مصنوعی گفتگو می‌کنند

منبع: abcnews.com