شرکت‌های هوش مصنوعی به سمت بهبود خودکار مدل‌ها پیش می‌روند

پیشرفت‌های اخیر در هوش مصنوعی

شرکت‌های پیشرو در این حوزه، از جمله Anthropic، جزئیات جدیدی را درباره مدل خود به نام Claude ارائه کرده‌اند. Claude در حال حاضر ۲۶ درصد از تحقیقات و توسعه مدل‌های Anthropic را به عهده دارد و می‌تواند بیشتر کارها را "از ابتدا تا انتها" تحت نظارت انسان انجام دهد. با این حال، این مدل‌ها هنوز به‌طور کامل خودکار نیستند.

بیشتر بخوانید: دولت ترامپ خطرات هوش مصنوعی را توطئه می‌داند

تعاریف متنوع از بهبود خودکار بازگشتی

تعاریف مختلفی از "بهبود خودکار بازگشتی" در شرکت‌های هوش مصنوعی وجود دارد. برخی این مفهوم را به‌عنوان وجود هرگونه بازخورد از مدل‌های هوش مصنوعی در زمینه بهبود مدل تعریف می‌کنند، در حالی که برخی دیگر آن را به‌عنوان فرآیندی کاملاً خودکار می‌دانند. آنتونی آگیوره، رئیس و مدیر عامل موسسه غیرانتفاعی آینده زندگی، اظهار می‌دارد که بهبود خودکار بازگشتی به معنای این است که هوش مصنوعی بتواند خود را بهبود بخشد و نسل بعدی سیستم را طراحی کند.

آگیوره همچنین اشاره می‌کند که سرعت پیشرفت هوش مصنوعی در انجام این فرآیند بسیار بیشتر از انسان‌ها است. در حالی که نگرانی‌ها در مورد ظهور یک هوش فوق‌العاده غیرقابل کنترل از این فرآیند وجود دارد، جان تیکستون، استاد دانشگاه کرنل، بیان می‌کند که بهبود خودکار در واقع مدت‌هاست که در توسعه هوش مصنوعی در حال وقوع است.

چالش‌ها و چشم‌اندازها

برخی از محققان برجسته هوش مصنوعی، مانند آندری کرباتی، همواره در تلاش بوده‌اند تا مدل‌های هوش مصنوعی را برای بهبود سیستم‌های جدید آموزش دهند. این تلاش‌ها به بهبودهای جزئی منجر شده، اما هنوز جهش‌های خلاقانه بزرگی به دنبال نداشته است. آگیوره اظهار می‌کند که اکنون شرکت‌های هوش مصنوعی به‌طور قابل توجهی به دستیابی به این جهش‌های بزرگ نزدیک‌تر شده‌اند.

Anthropic اخیراً اعلام کرده است که برای عمومی‌سازی پیشرفت‌های خود در زمینه بهبود خودکار بازگشتی به رقبا تشویق می‌کند. با این حال، این شرکت به‌طور مشخص اعلام نکرده است که چقدر به دستیابی به بهبود مدل‌های کاملاً خودکار نزدیک است.

نگرانی‌ها در مورد ایمنی و کنترل

چالش اصلی که آزمایشگاه‌های تحقیقاتی با آن روبرو هستند، اطمینان از این است که اقدامات ایمنی همزمان با توانایی‌های مدل‌ها پیشرفت کند. تقسیمات مختلفی در صنعت فناوری در مورد درخواست‌ها برای کاهش سرعت هوش مصنوعی به‌منظور ایمنی شکل گرفته است. Anthropic که در این زمینه یکی از صداهای پیشرو است، اعلام کرده است که در صورت همکاری جهانی رقبا، ممکن است توسعه خود را کند کند.

OpenAI نیز به‌تازگی اعلام کرده است که هنوز نمی‌داند چگونه می‌تواند به‌طور ایمن به بهبود خودکار کامل برسد. این شرکت خاطرنشان کرد که سیستم‌های قوی‌تر ممکن است به سختی قابل نظارت باشند، اما دستیابی به بهبود خودکار بازگشتی همچنان هدفی است که به دنبال آن است.

بیشتر بخوانید: دونالد ترامپ در سمینار به نگرانی‌های هوش مصنوعی واکنش نشان داد · حضور مدیرعامل انویدیا در ضیافت شام دولتی ترامپ و شی جین‌پینگ

منبع: abcnews.com