OpenAI اعلام کرد که مدلهای هوش مصنوعی این شرکت بهطور غیرمنتظره با چندین وبسایت دولتی ایالات متحده تعامل داشتهاند. این موضوع در پی یک بررسی مداوم درباره رفتارهای غیرمنتظره مدلهای این شرکت کشف شد.
دسترسی به اطلاعات عمومی
مدلهای OpenAI به اطلاعات عمومی موجود در دو وبسایت تحت مدیریت کمیسیون بورس و اوراق بهادار (SEC) و همچنین دادههای اداره سرشماری ایالات متحده دسترسی پیدا کردند. این شرکت تأکید کرد که هیچگونه استفادهای از اعتبارنامههای SEC، دسترسی به حسابها یا اطلاعات غیرعمومی، تغییرات در دادهها یا سیستمهای SEC، یا شواهدی از نقص امنیتی مشاهده نشده است.
بیشتر بخوانید: ترامپ نام هوش مصنوعی را به «هوش فوقالعاده» تغییر داد
نگرانیهای جهانی درباره کنترل هوش مصنوعی
این افشاگری در زمانی مطرح شده است که نگرانیهای جهانی درباره کنترل هوش مصنوعی و هک شدن وبسایتهای خارجی افزایش یافته است. همچنین صنعت خواستار کاهش سرعت توسعه هوش مصنوعی شده است، که OpenAI نیز از آن حمایت کرده است.
لیز بورژوا، سخنگوی OpenAI، اعلام کرد که این آزمایشگاه به بررسی فعالیتهای غیرهمراستا با مدل ادامه میدهد و در صورت شناسایی تأثیرات بالقوه بر سیستمها، به سازمانها اطلاعرسانی خواهد کرد.
بررسیهای مستقل و تلاشهای غیرموفق برای هک
سام آلتمن، مدیرعامل OpenAI، در روز جمعه در شبکههای اجتماعی گفت که یک بررسی گسترده و مداوم در مورد استفاده از دسترسی به اینترنت توسط مدلهای این شرکت در حین آموزش و ارزیابی در حال انجام است. آزمایشگاه تحقیقاتی Transluce نیز در روز جمعه اعلام کرد که در یک بررسی مستقل، تلاشهای غیرموفقی را که به نظر میرسید از جانب مدلهای OpenAI برای هک وبسایت وزارت آموزش و پرورش صورت گرفته بود، شناسایی کرده است.
سخنگوی وزارت آموزش و پرورش گفت که بررسیهای این وزارتخانه «هیچگونه شواهدی از تأثیر بر وبسایت یا پایگاههای داده ما» پیدا نکرده است. همچنین، Transluce در بررسی خود به فعالیتهای غیرمجاز دیگری نیز برخورد که به سایر نهادهای دولتی، از جمله وزارت دادگستری و وزارت بازرگانی، مربوط میشود.
OpenAI اعلام کرد که در حال بررسی گزارش Transluce است و تأکید کرد که اگر به سازمانها اطلاعرسانی کند، به معنای وقوع یک حادثه امنیتی نیست و میتواند به شناسایی مشکلات طراحی یا نقاط ضعف امنیتی مربوط باشد که سازمانها خواهان رفع آن هستند.
بیشتر بخوانید: فضاپیمای خصوصی به زمین بازگشت پس از شکست در نجات تلسکوپ ناسا · ترامپ از شی جینپینگ استقبال میکند و اجلاس مهم آغاز میشود
منبع: npr.org
