شرکتهای پیشرو در حوزه هوش مصنوعی به مرحلهای نزدیک میشوند که مدلهای هوش مصنوعی بتوانند بهصورت خودآموز و مستقل به بهبود کارایی خود بپردازند. این چشمانداز که در ابتدا دور از دسترس به نظر میرسید، اکنون به واقعیتی نزدیکتر شده است.
پیشرفت در بهبود خودآموز
توسعهدهندگان با اشاره به پیشرفتهای فناوری، از مفهوم «بهبود خودآموز تکراری» (recursive self-improvement) صحبت میکنند. در این فرآیند، مدلهای هوش مصنوعی به دنبال راههایی برای بهبود خود و توسعه نسخههای جانشین خود خواهند بود. مقامات شرکتهای فناوری این روند را به عنوان یک فرصت برای پیشرفتهای علمی و پزشکی میدانند، در حالی که در عین حال، خطرات بالقوه آن را نیز یادآور میشوند.
بیشتر بخوانید: حضور مدیرعامل انویدیا در ضیافت شام دولتی ترامپ و شی جینپینگ
شرکت آنتروپیک در هفته جاری جزئیاتی درباره مدل خود، کلاود، ارائه داد که نشان میدهد این مدل به شرکت کمک میکند تا نسخهای هوشمندتر از خود را توسعه دهد. طبق گزارشها، کلاود اکنون ۲۶ درصد از تحقیقات و توسعه مدل آنتروپیک را به عهده دارد و میتواند اکثر وظایف را «از ابتدا تا انتها» انجام دهد، در حالی که هنوز تحت نظارت انسانی است.
تعریفهای متفاوت از بهبود خودآموز تکراری
شرکتهای مختلف در حوزه هوش مصنوعی تعاریف متفاوتی از بهبود خودآموز تکراری دارند. برخی این مفهوم را به عنوان هر گونه بازخورد از هوش مصنوعی در زمینه بهبود مدل تعریف میکنند، در حالی که برخی دیگر آن را به عنوان فرآیندی که در آن هوش مصنوعی بهطور کامل بهصورت مستقل عمل میکند، تفسیر میکنند.
آنتونی آگیرو، رئیس و مدیرعامل مؤسسه غیرانتفاعی آینده زندگی، معتقد است که بهبود خودآموز تکراری به معنای هوش مصنوعی است که میتواند خود را بهبود بخشد و نسخههای بعدی سیستم را طراحی کند. او اضافه کرد که این فرآیند میتواند با سرعت بیشتری نسبت به انسانها انجام شود.
جان تیکستون، استاد علوم کامپیوتر در دانشگاه کرنل، هشدار میدهد که نگرانیها در مورد بهبود خودآموز تکراری عمدتاً ناشی از ظهور هوش مصنوعی فوقهوشمند است. او بیان کرد که این نوع بهبود در توسعه هوش مصنوعی، در واقع برای سالها در حال انجام است.
شرکتهای هوش مصنوعی امروز، به گفته آگیرو، به بزرگترین جهشهای بهبود نزدیکتر شدهاند. او به نمودارهایی از آنتروپیک اشاره کرد که نشان میدهد به تدریج میزان تحقیقاتی که توسط هوش مصنوعی انجام میشود در حال افزایش است.
آنتروپیک در اعلامیه اخیر خود به عموم و سایر آزمایشگاهها نگاهی به پیشرفتهای خود در زمینه بهبود خودآموز تکراری ارائه داد، اما مشخص نکرد که چقدر به دستیابی به بهبود مدلهای کاملاً خودآموز نزدیک است.
شرکت OpenAI نیز اعلام کرده است که یک «دستیار تحقیقاتی خودکار» توسعه داده که قادر است وظایف تحقیقاتی مشخصی را تحت هدایت انسانی انجام دهد. هدف این شرکت ایجاد یک «پژوهشگر خودکار» تا مارس ۲۰۲۸ است.
چالشها و نگرانیها
چالش اصلی که آزمایشگاهها با آن مواجه هستند، اطمینان از این است که تدابیر ایمنی همزمان با پیشرفت قابلیتهای مدلها توسعه یابند. اختلاف نظرهایی در صنعت فناوری درباره درخواست برای کاهش هماهنگ سرعت توسعه هوش مصنوعی بهمنظور ایمنی وجود دارد.
آنتروپیک، به عنوان یک صدای پیشرو در این زمینه، اعلام کرده است که در صورت همکاری سایر رقبا، ممکن است توسعههای خود را کند یا موقتا متوقف کند. OpenAI نیز تصریح کرده است که هنوز نمیداند چگونه میتوان بهصورت ایمن به بهبود کامل خودآموز تکراری رسید.
بیشتر بخوانید: همکاری آمریکا و چین برای استراتژی ایمنی هوش مصنوعی ضروری است · Will Lawrence از نگرانیهای هوش مصنوعی برای مبارزه انتخاباتی استفاده میکند
منبع: independent.co.uk
