آنتروپیک از مدل کلود به عنوان ابزاری در توسعه جانشین خود یاد کرد

نقش کلود در تحقیقات و توسعه

کلود ۲۶ درصد از تحقیقات و توسعه آنتروپیک را رهبری می‌کند، که به گفته این شرکت، به این معناست که این مدل می‌تواند بیشتر یک وظیفه را "از ابتدا تا انتها بر اساس یک دستور سطح بالا" انجام دهد، در حالی که هنوز تحت نظارت انسانی قرار دارد. این مدل هنوز به طور کامل به طور خودکار عمل نمی‌کند.

بیشتر بخوانید: جو روگان از حکومت هوش مصنوعی به عنوان راهی برای پایان جنگ‌ها سخن گفت

با این حال، حدود ۹۰ درصد از تحقیقات و توسعه شرکت در "همکاری" با کلود انجام می‌شود. آنتروپیک اعلام کرده که این مدل می‌تواند "بخش‌های بزرگی از کار را تحت هدایت نزدیک انسانی انجام دهد."

نگرانی‌ها درباره امنیت و توسعه هوش مصنوعی

این اعلامیه در حالی منتشر شد که برخی از چهره‌های برجسته در حوزه هوش مصنوعی، به رهبری داریو آمودئی (Dario Amodei) مدیر عامل آنتروپیک، خواستار کاهش سرعت توسعه فناوری به دلیل نگرانی‌های امنیتی هستند. آنتروپیک تاکید کرده که "باید همه تلاش خود را بکنیم تا شکاف بین آنچه که آزمایشگاه‌های پیشرفته می‌دانند و آنچه که عموم مردم می‌دانند را به حداقل برسانیم."

این شرکت همچنین بر لزوم به اشتراک‌گذاری متریک‌های مشابه توسط سایر توسعه‌دهندگان هوش مصنوعی تأکید کرده و استفاده از یک روش عمومی برای مقایسه این اعداد را تشویق کرده است.

آنتروپیک از جزئیات اقداماتی که در راستای نظارت بر مدل‌های خود انجام می‌دهد نیز پرده برداشت. در اوت، حدود ۳۰,۰۰۰ عامل در حال تحقیق و مهندسی در این شرکت بودند. این اقدامات نظارتی برای تشخیص رفتار نادرست عوامل از طریق سیستم‌های نظارتی ضروری است. آنتروپیک اخیراً متعهد شده است که ارزیابان مستقل را برای نظارت بر تلاش‌های ایمنی خود درون شرکت قرار دهد.

یک پژوهشگر آنتروپیک با هشدار جدی درباره تهدیداتی که فناوری هوش مصنوعی برای بشریت به همراه دارد، هفته گذشته از سمت خود استعفا داد. آمودئی، سم آلتمن (Sam Altman) مدیر عامل اوپن‌ای‌آی، ایلان ماسک و دیگر رهبران فناوری از ایده کاهش سرعت توسعه پشتیبانی کرده‌اند، در حالی که برخی از رهبران فناوری و دونالد ترامپ با این موضوع مخالفت کرده‌اند.

بیشتر بخوانید: دو سوم آمریکایی‌ها خطرات هوش مصنوعی را جدی می‌دانند · مارک زاکربرگ از فراخوان برای کاهش هماهنگ توسعه هوش مصنوعی فاصله گرفت

منبع: abcnews.com