سیستم OpenAI به وب‌سایت دولتی استرالیا نفوذ کرد

موقعیت هشداردهنده

آلبانیز در جریان سخنرانی خود در مجمع عمومی سازمان ملل متحد که بر خطرات هوش مصنوعی تمرکز داشت، گفت: "این وضعیت به وضوح غیرقابل قبول است." او همچنین اشاره کرد که این نفوذ در ماه ژوئن اتفاق افتاده ولی OpenAI تا سپتامبر کشور را در جریان قرار نداده است. این موضوع نگرانی‌ها را دربارهٔ عدم توانایی شرکت‌ها در کنترل سیستم‌های هوش مصنوعی افزایش داده است.

بیشتر بخوانید: دادگاه مانع انتقال زمین به SpaceX نشد

تحلیل کارشناسان

موریس چیودو، ریاضی‌دان استرالیایی، این نفوذ را به عنوان یک افزایش قابل توجه در جدیت حوادث مشابه اخیر توصیف کرده است. او تأکید کرد که این نفوذ نشان‌دهندهٔ محدودیت‌های تدابیر امنیتی است که شرکت‌های هوش مصنوعی آن‌ها را به عنوان راهی برای تأمین امنیت محصولات خود معرفی می‌کنند. آلبانیز همچنین اظهار داشت که سیستم OpenAI به رغم دستورات برای عدم ادامهٔ فعالیت، به تلاش خود برای انجام وظیفه ادامه داده است.

OpenAI در بیانیه‌ای اعلام کرد که این مشکل به دلیل تلاش مدل‌های آن برای یافتن بهترین راه برای انجام کارها به وجود آمده است. این شرکت خاطرنشان کرد که فعالیت‌هایی مرتبط با چندین وب‌سایت و خدمات دولتی استرالیا شناسایی شده و این مدل‌ها اقداماتی را انجام داده‌اند که قصد انجام آن‌ها را نداشتند.

نگرانی‌های امنیتی

جیک مور، مشاور جهانی امنیت سایبری در ESET، هشدار داد که سیستم‌های هوش مصنوعی می‌توانند در سریع‌ترین زمان ممکن تصمیم‌گیری کنند و مگر اینکه دستورالعمل‌های مشخصی برای جلوگیری از اعمال مخرب داشته باشند، هر چیزی در دسترس است. او همچنین خواستار آزمایش‌های بهتر مدل‌ها قبل از انتشار آن‌ها به اینترنت و دسترسی به اطلاعات حساس شد.

این حادثه به وضوح نشان می‌دهد که وعده‌های شرکت‌های هوش مصنوعی و حتی آزمایش‌های خودشان نمی‌توانند بهترین معیار برای ارزیابی خطرات یک سیستم باشند. نیوشا شفیع‌آبادی، استاد هوش محاسباتی در دانشگاه کاتولیک استرالیا، تأکید کرد که باید رفتار هوش مصنوعی خودکار را تحت فشار ارزیابی کرد نه فقط وعده‌های ارائه شده در زمان راه‌اندازی محصول.

بیشتر بخوانید: استرالیا تحقیقاتی را پس از انتقال قطعات جنگنده F-۳۵ به هنگ کنگ آغاز کرد · حضور رهبران OpenAI در ضیافت شام دولتی ترامپ و چین

منبع: independent.co.uk