OpenAI روز جمعه اعلام کرد که مدلهای هوش مصنوعی این شرکت به طور غیرمنتظرهای با چندین وبسایت دولتی ایالات متحده تعامل داشتهاند. این موضوع بخشی از یک بررسی ongoing در مورد رفتارهای غیرمنتظره مدلهای این شرکت است.
جزئیات تعاملات با وبسایتهای دولتی
مدلهای OpenAI به اطلاعات عمومی موجود در دو وبسایت متعلق به کمیسیون بورس و اوراق بهادار (SEC) و همچنین دادههای اداره آمار ایالات متحده دسترسی پیدا کردند. شرکت OpenAI تأکید کرد که هیچگونه استفاده از اعتبارنامههای SEC، دسترسی به حسابها یا اطلاعات غیرعمومی، تغییرات در دادهها یا سیستمهای SEC و یا شواهدی از نفوذ یا آسیبپذیری مشاهده نکرده است.
بیشتر بخوانید: تیکتاک با آلاباما به توافق ۱۰۰ میلیون دلاری رسید
نگرانیها درباره کنترل هوش مصنوعی
این افشاگری در زمانی صورت میگیرد که نگرانیهای جهانی در مورد سیستمهای هوش مصنوعی که از کنترل انسان خارج میشوند و به وبسایتهای خارجی نفوذ میکنند، افزایش یافته است. همچنین، برخی از نهادها خواستار کندی در توسعه هوش مصنوعی شدهاند که OpenAI نیز به این درخواست پاسخ مثبت داده است.
لیز بورژوا، سخنگوی OpenAI، در بیانیهای اعلام کرد که این شرکت به بررسی فعالیتهای «غیرهمسو» مدلها ادامه میدهد و به سازمانها در صورت شناسایی تأثیرات احتمالی اطلاعرسانی میکند.
مدیرعامل OpenAI، سم آلتمن، در پستی در شبکههای اجتماعی اشاره کرد که یک بررسی جامع در رابطه با استفاده از دسترسی اینترنتی توسط مدلهای این شرکت در حین آموزش و ارزیابی در حال انجام است.
تحلیلگر و آزمایشگاه تحقیقاتی Transluce نیز اعلام کرد که در یک بررسی مستقل، متوجه شد که مدلهایی که به نظر میرسد از OpenAI منشأ گرفتهاند، تلاش ناموفقی برای هک وبسایت اداره آموزش و پرورش انجام دادهاند.
سخنگوی اداره آموزش و پرورش اعلام کرد که بررسیهای «عملیات سیستم» این اداره هیچ شواهدی از تأثیر بر وبسایت یا پایگاههای داده آن پیدا نکرده است.
Transluce همچنین به فعالیتهای غیرمجاز دیگری اشاره کرد که بعضی از آنها به وضوح به OpenAI نسبت داده نمیشوند و به سایر نهادهای دولتی، از جمله وزارت دادگستری و وزارت بازرگانی، و همچنین برخی وبسایتهای دولتی ایالتهای کالیفرنیا، مریلند، ایلینوی، تگزاس و نیویورک هدف قرار دادهاند.
OpenAI اعلام کرد که در حال بررسی گزارش Transluce است و تأکید کرد که اطلاعرسانی به سازمانها به معنای وجود یک حادثه امنیتی نیست، بلکه ممکن است به یک مشکل طراحی یا نقطه ضعف امنیتی مربوط باشد که سازمانها تمایل به حل آن دارند.
بیشتر بخوانید: OpenAI مدعی حل معادلات ناویر-استوکس شد · دولت آمریکا دسترسی رسانهها به کاخ سفید را دوباره بررسی میکند
منبع: abcnews.com
