یک محقق در برنامه همکاران شرکت Anthropic، نگاهی اجمالی به آینده هوش مصنوعی (AI) ارائه داده است؛ آیندهای که در آن مدلهای هوش مصنوعی با استفاده از مدلهای دیگر آموزش میبینند. این رویکرد، که به دنبال بهبود عملکرد مدلهای فعلی است، میتواند گامی مهم در جهت توسعه هوش مصنوعی پیشرفته باشد.
“محققان خودکار”؛ راهکاری نوین برای ارتقاء هوش مصنوعی
شرکت Anthropic مقالهای جدید با عنوان “محققان خودکار میتوانند به طور قابل اعتمادی شکستهای همترازی را کاهش دهند” منتشر کرده است. این مقاله چگونگی استفاده از سیستمهای هوش مصنوعی برای بهبود عملکرد مدل در مجموعهای از معیارهای همترازی را شرح میدهد. نتایج نشان داد که سیستمهای خودکار توانستند عملکرد را در تمام ۱۰ معیار مربوط به رفتارهای نادرست، بدون افت کلی، بهبود بخشند.
روند کار محققان خودکار
سیستم توسعهیافته توسط چن یو-هان، همکار Anthropic، بسیاری از رویکردهای سنتی تحقیق را تقلید میکند. هر سیستم خودکار، متون موجود را جستجو کرده، روشی را پیشنهاد میدهد و مدل را با استفاده از آن روش برای مدت مشخصی آموزش میدهد. روشهای مؤثر حفظ و روشهای ناکارآمد کنار گذاشته میشوند و این امکان را به سیستم میدهد تا به سرعت و در مقیاس بزرگ عمل کند.
آینده هوش مصنوعی: بهبود مداوم و خودکار
این مقاله گامی به سوی “بهبود مداوم و خودکار” (recursive self-improvement) است که بسیاری آن را گام بعدی قابل توجه در پیشرفت هوش مصنوعی میدانند. اگر مدلها بتوانند آموزش همترازی خود را بهبود بخشند، این امکان وجود دارد که بتوانند شیوههای آموزشی را به طور کلی گسترش دهند و در نتیجه، محققان انسانی هوش مصنوعی ممکن است به زودی منسوخ شوند.
مقایسه با محققان انسانی
این مقاله به صراحت، “محقق همترازی خودکار” (AAR) را با همتای انسانی خود مقایسه میکند. طبق مقاله، بهترین روش AAR به طور متوسط در عرض شش ساعت، نتایجی بهتر از آنچه محققان باتجربه انسانی پیشنهاد میکنند، ارائه میدهد. همچنین، هزینه ساعتی استفاده از AAR حدود ۴ دلار در مقابل ۱۵۰ دلار برای محققان انسانی است.
محدودیتهای رویکرد فعلی
البته، این مقاله به محدودیتهای این رویکرد نیز اشاره میکند. سیستم خودکار تنها تا زمانی کارآمد است که معیارها، اهداف واقعی همترازی را منعکس کنند. همچنین، کارهای قابل توجهی برای ایجاد و نگهداری این معیارها و همچنین حفظ و گسترش منابع متنی مورد استفاده محققان خودکار لازم است.
