کارشناسان هوش مصنوعی در جلسه‌ای که روز دوشنبه در شورای شهر نیویورک برگزار شد، درباره خطرات فناوری‌های نوظهور هشدار دادند و خواستار نظارت بیشتر بر این فناوری‌ها شدند. این نگرانی‌ها در پی افزایش توجه مقامات محلی به مسائل ایمنی در ارتباط با سیستم‌های هوش مصنوعی مطرح گردید.
هشدارها درباره فرهنگ خطرناک در شرکت‌های فناوری
در این جلسه، برخی از کارمندان سابق شرکت‌های آنتروپیک، اوپن‌ای‌آی و گوگل دیپ مایند، فرهنگ بی‌احتیاطی در این شرکت‌ها را توصیف کردند و گفتند که بزرگ‌ترین شرکت‌های فناوری در حال رقابت برای ایجاد تکنولوژی‌هایی هستند که کنترل آن‌ها را درک نمی‌کنند. یکی از این کارشناسان، جیکوب کاکسون، مهندس سابق آنتروپیک، گفت: "شرکت‌ها با ذهنیت استارتاپی عمل می‌کنند: سریع حرکت کن، چیزها را خراب کن، بعداً درست کن. این برای یک اپلیکیشن اشتراک‌گذاری عکس کار می‌کند، اما برای ساخت قدرتمندترین فناوری‌ای که تاکنون ساخته شده، مناسب نیست."
بیشتر بخوانید: پسران بزرگ‌تر ترامپ به شرکت واردکننده فناوری جنگ اوکراین مرتبط شدند
نگرانی‌ها درباره خطرات جدی هوش مصنوعی
کاکسون به شورای شهر گفت که هوش مصنوعی می‌تواند منافع زیادی داشته باشد، اما بدون شفافیت و اقدامات ایمنی، احتمال اینکه اوضاع از کنترل خارج شود بیشتر است. او اظهار داشت: "در مسیر کنونی، فکر می‌کنم احتمالاً بشریت کنترل خود را بر روی این هوش‌های مصنوعی از دست می‌دهد و این می‌تواند به انقراض انسانی منجر شود."
چند روز پس از استعفای کاکسون و ابراز نگرانی‌های او، مقامات ارشد شامل داریو آمودئی از آنتروپیک، سم آلتمن از اوپن‌ای‌آی و ایلان ماسک از اسپیس‌ایکس‌ای به این موضوع اذعان کردند که توسعه هوش مصنوعی باید کندتر شود. این شرکت‌ها اقداماتی را برای اولویت دادن به ایمنی اعلام کردند، اما هماهنگی در کاهش سرعت صنعت با چالش‌های زیادی روبرو است.
در این جلسه، نمایندگان شرکت‌های بزرگ فناوری شامل اوپن‌ای‌آی، آنتروپیک، گوگل و متا نیز شهادت دادند و به مقامات گفتند که سیستم‌های آن‌ها در حال حاضر زندگی روزمره مردم را بهبود می‌بخشند و بر ایمنی تأکید کردند. آنتروپیک و اوپن‌ای‌آی اعلام کردند که محصولات پیشرفته هوش مصنوعی آن‌ها نیاز به نظارت دارند و نمایندگان این شرکت‌ها در جلسه ابراز آمادگی برای برخی از پیشنهادات شورای شهر کردند.
مورگان دوییر از اوپن‌ای‌آی گفت: "من به تعهد شما برای اطمینان از توسعه ایمن فناوری و به اشتراک‌گذاری گسترده منافع آن پایبندم." در یکی از لحظات جلسه، جولی منین، رئیس شورای شهر، از نمایندگان شرکت‌ها خواست تا "ریسک‌های ناشی از هوش مصنوعی در بدترین سناریوهای فاجعه‌بار را کمی‌سازی کنند." دوییر در پاسخ گفت: "نمی‌دانم — همچنین فکر نمی‌کنم که مهم باشد که آیا شانس وقوع یک فاجعه ۱ درصد، ۱۰ درصد یا ۲۰ درصد است. هیچ‌یک از این سطوح به هیچ عنوان قابل قبول نیست."
شورای شهر در حال بررسی چندین مقررات هوش مصنوعی است، از جمله پیشنهاداتی برای الزامی کردن افشای اطلاعات درباره ابزارهای هوش مصنوعی، نیاز به تأیید شخص ثالث برای سیستم‌های هوش مصنوعی در شهر و اجازه به افشاگران برای دریافت بخشی از جریمه‌ها از شرکت‌های هوش مصنوعی که قوانین را نقض می‌کنند.
به طور جداگانه، کتی هاچول، فرماندار نیویورک، به عنوان یک دموکرات، اقداماتی برای تحمیل استانداردهای گزارش‌دهی و شفافیت در زمینه هوش مصنوعی انجام داده است، اگرچه قدرت آن‌ها تا حدی محدود است زیرا فناوری هوش مصنوعی می‌تواند از مرزهای ایالتی عبور کند.
لوگان گراهام از آنتروپیک به شورای شهر گفت که این شرکت "نظارت هوشمند" را خوش‌آمد می‌گوید و دولت‌های ایالتی و محلی نقش مهمی در توسعه چارچوب‌ها دارند. او افزود: "هوش مصنوعی به اندازه‌ای قدرتمند است که اشتباه کردن در این زمینه پیامدهای واقعی دارد، برای افراد، نهادها و اعتماد عمومی."
بیشتر بخوانید: Newsom لایحه‌ای را که استفاده از عینک‌های هوشمند برای ضبط مخفی را مجازات می‌کرد، وتو کرد · توافق ایالت‌های آمریکا برای ایمنی کودکان در فضای مجازی و هوش مصنوعی
منبع: abcnews.com
