OpenAI سه پژوهشگر ایمنی را به دلیل "نقض اعتماد" اخراج کرد و پس از آنکه این سه نفر شرکت را به اولویت دادن منافع شرکتی بر ایمنی متهم کردند، از تصمیم خود دفاع کرد.
جزئیات اخراج پژوهشگران
OpenAI در بیانیه‌ای اعلام کرد که پس از یک تحقیق مشخص شد این سه پژوهشگر "سیاست‌های واضح در مورد نحوه برخورد با اطلاعات حساس را نقض کرده‌اند". این بیانیه پس از آن منتشر شد که تومک کرباک، جاسمین وانگ و میکیتا بالسنای نامه‌ای به گروه‌های نظارت ایمنی مختلف OpenAI ارسال کردند و جزئیات مربوط به اخراج خود و نگرانی‌هایشان درباره هوش مصنوعی را بیان کردند.
بیشتر بخوانید: استفاده فزاینده رأی‌دهندگان از چت‌بات‌های هوش مصنوعی برای بررسی حقایق
نگرانی‌های پژوهشگران درباره فرهنگ سازمانی
پژوهشگران ابراز نگرانی کردند که "ارتباطات داخلی و خارجی" درباره اخراج آن‌ها فرهنگ شرکتی را که به گفت‌وگو آزاد و مخالفت علنی درباره نگرانی‌های ایمنی تشویق می‌کند، تضعیف کرده است. آن‌ها از OpenAI خواستند به وعده خود برای اجازه دادن به نظارت‌کنندگان ایمنی مستقل درون شرکت پایبند بماند و توانایی نظارت بر مدل‌های پیشرفته هوش مصنوعی که ممکن است خطرات ناشناخته‌ای به همراه داشته باشند، حفظ کند.
اخراج این پژوهشگران که نخستین بار توسط یک نشریه خبری گزارش شد، نشانه‌ای دیگر از آشفتگی در شرکت‌های پیشرو در زمینه هوش مصنوعی درباره ایمنی این فناوری است. این مشکلات با یک سری حوادث مربوط به عوامل هوش مصنوعی غیرمنظم برجسته شده است.
مسئله‌ای که در ماه ژوئیه به وجود آمد، زمانی بود که OpenAI فاش کرد یک گروه از عوامل هوش مصنوعی آن‌ها از یک محیط آزمایشی فرار کرده و با استفاده از مدارک دزدیده‌شده به سرورهای Hugging Face، یک مرکز توسعه و بازار هوش مصنوعی، نفوذ کرده‌اند تا اطلاعات لازم برای یک وظیفه را به دست آورند.
OpenAI به نسخه پژوهشگران از این وقایع اعتراض کرد و گفت که اخراج‌ها "به دلیل نگرانی‌های ایمنی یا سخن گفتن در مورد آن نبود". این شرکت به جزئیات بیشتری درباره دلایل اخراج اشاره نکرد، اما اظهار داشت: "ما نمی‌توانیم کار خود را بدون درجه بالایی از اعتماد پیش ببریم."
کرباک در پستی اعلام کرد که به او گفته شده که به دلیل نحوه ارتباطش با METR، یک شرکت غیرانتفاعی مستقل برای ارزیابی هوش مصنوعی که OpenAI آن را برای بررسی حادثه Hugging Face دعوت کرده بود، اخراج شده است. METR گزارشی دقیق درباره حادثه Hugging Face در اواخر ماه اوت منتشر کرد. کرباک گفت که "صحبت با METR" شغل او بوده، اما جزئیات بیشتری به او داده نشده است.
بالسنای در حال انجام "کار بین شرکتی" بر روی تعهدات OpenAI برای حفظ توانایی نظارت بر هوش مصنوعی بود و "مراقبت کرده بود که جزئیات حساس را قبل از به اشتراک‌گذاری حذف کند". او در پستی نوشت که معتقد است این سه نفر "به دلیل اولویت دادن ایمنی بر منافع کوتاه‌مدت OpenAI به عنوان یک شرکت اخراج شدند".
بیشتر بخوانید: تیم ترامپ برای اصلاح چت‌بات هوش مصنوعی دولتی تلاش می‌کند · تصادف دریایی در رود کنگو جان دست‌کم ۳۰ نفر را گرفت
منبع: abcnews.com
