گرگ استنتون: مشکلات ایمنی هوش مصنوعی نیاز به اقدام جمعی دارد

همکاری سیاسی برای ایمنی هوش مصنوعی

نگرانی‌ها درباره هوش مصنوعی به ایجاد همکاری‌های سیاسی نامتعارف نیز منجر شده است. سناتور برنی سندرز و مشاور سابق ترامپ، استیو بانون، روز سه‌شنبه در یک رویداد در واشنگتن حضور خواهند داشت تا از کنگره بخواهند اقدامات ایمنی در زمینه هوش مصنوعی را سریع‌تر انجام دهد.

بیشتر بخوانید: برنی سندرز و استیون بانون در واشنگتن به بحث درباره محدودیت‌های هوش مصنوعی می‌پردازند

این هشدارها در حالی مطرح می‌شود که داریو آمودئی، مدیرعامل Anthropic، خواستار هماهنگی در زمینه ایمنی و سرعت توسعه در میان شرکت‌های هوش مصنوعی شده است. استنتون گفت: "ما هیچ طرف سومی نداریم که بتواند آنچه را که می‌گوییم تأیید کند."

خطرات ملموس تر از گذشته

استنتون بیان کرد که خطرات ناشی از هوش مصنوعی در سال گذشته به صورت ملموس‌تری نمایان شده‌اند. آزمایش‌های گذشته نشان داده بودند که عوامل هوش مصنوعی می‌توانند اپراتورهای انسانی را فریب دهند یا از محیط‌های آزمایشی فرار کنند. او ادامه داد: "همه‌چیز در آن زمان علمی و دانشگاهی بود. اما در این سال، شاهد وقوع این موارد در دنیای واقعی بوده‌ایم."

یک مثال از این خطرات، هک اخیر Hugging Face، یک پلتفرم نرم‌افزار متن‌باز است. OpenAI و محققان مستقل دریافته‌اند که بیش از ۱۰۰۰ عامل OpenAI از یک آسیب‌پذیری نرم‌افزاری استفاده کرده و از محیط‌های طراحی‌شده برای ایزوله‌سازی خود فرار کرده‌اند. برخی از آن‌ها سپس با یکدیگر ارتباط برقرار کرده و به همکاری پرداختند.

استنتون در پاسخ به این سؤال که نسخه‌ای خطرناک‌تر از این رفتار چه شکلی می‌تواند داشته باشد، به یک مورد فرضی اشاره کرد که در آن عوامل هوش مصنوعی نامناسب شروع به هک کامپیوترها کرده و در نهایت تلاش می‌کنند اینترنت را نابود کنند. او گفت: "اگر این اتفاق بیفتد، واقعاً چیزهای خطرناکی در جهان ما رخ خواهد داد."

اما این هشدارها همچنین یک سؤال اساسی را مطرح می‌کنند. اگر شرکت‌هایی مانند Anthropic معتقدند که توسعه هوش مصنوعی به سرعت زیادی پیش می‌رود، چرا نمی‌توانند به سادگی سرعت را کاهش دهند؟ دیوید ساکس، مشاور کلیدی رئیس‌جمهور ترامپ در زمینه فناوری، این استدلال را مطرح کرده و گفت که شرکت‌های نگران درباره مدل‌های منتشرنشده نیازی به اجازه کسی برای کاهش توسعه ندارند.

استنتون بیان کرد که Anthropic در گذشته چنین اقداماتی را انجام داده است. او گفت: "ما چندین بار در تاریخ خود سرعت را کاهش داده‌ایم." اما او توضیح نداد که Anthropic چه چیزی را در واقع کند کرده، چه زمانی و به چه مدت. او افزود که اقدام یک شرکت به تنهایی نمی‌تواند فشار موجود در صنعتی که در تلاش برای ساخت سیستم‌های توانمندی‌تر است را کاهش دهد.

استنتون گفت: "مسئله‌ای که در حال صحبت درباره آن هستیم، یک مشکل اقدام جمعی است." پیشنهاد Anthropic همچنین خواستار هماهنگی میان کشورهای دموکراتیک و نهایتاً بین رقبای ژئوپلیتیکی است.

استنتون تأکید کرد که ایالات متحده باید رهبری خود را در توسعه هوش مصنوعی نسبت به چین حفظ کند، از جمله با محدود کردن صادرات تراشه‌های قدرتمند. اما او استدلال کرد که رقابت مانع از همکاری در زمینه خطرات مشترک نمی‌شود و به مذاکرات کنترل تسلیحات بین ایالات متحده و اتحاد جماهیر شوروی در دوران جنگ سرد اشاره کرد.

او گفت: "آن‌ها راه‌هایی برای گفتگو درباره سلاح‌های هسته‌ای پیدا کردند تا از دامن زدن به بحران‌هایی که می‌توانست برای سیاره فاجعه‌بار باشد، جلوگیری کنند. همین کار می‌تواند در اینجا نیز انجام شود."

بیشتر بخوانید: چالش‌های فضایی اروپا: رقابت با غول‌های آمریکایی · رهبران کلیدی هشدار دربارهٔ توسعهٔ هوش مصنوعی را صادر کردند

منبع: npr.org