OpenAI روز پنجشنبه از آسترا، جدیدترین مدل هوش مصنوعی خود رونمایی کرد. این شرکت ادعا میکند که آسترا قدرتمندترین و تواناترین مدل ساخته شده تاکنون است.
آسترا: مرز جدیدی در استفاده از کامپیوتر و مرورگر
اوپنایآی معتقد است آسترا «مرز جدیدی در استفاده از کامپیوتر و مرورگر» ایجاد میکند و وظایف را با «سرعت، دقت و ایمنی بینظیر» انجام میدهد.
دسترسی به آسترا
این مدل از روز پنجشنبه برای مشتریان اوپنایآی که از برنامه امنیتی Daybreak استفاده میکنند، در دسترس قرار میگیرد. طی هفته آینده، این مدل از طریق طرحهای پولی اوپنایآی از جمله حسابهای Pro، Plus، Enterprise و Business و همچنین از طریق API در دسترس خواهد بود.
هوشمندترین و همراستا ترین مدل اوپنایآی
گرگ براکمن، رئیس اوپنایآی، در گفتگویی با خبرنگاران اعلام کرد که آسترا «هوشمندترین و مهمتر از همه، همراستاترین مدل ما تاکنون» است. او افزود که این مدل «سالها تحقیق و سرمایهگذاریهای بزرگ ما را گرد هم میآورد» و «تغییر واقعی در نوع کارهایی است که افراد میتوانند به هوش مصنوعی بسپارند و چگونه میتواند به آنها قدرت بخشد».
قابلیتهای امنیتی و چالشها
قابلیتهای امنیتی آسترا مورد توجه قرار گرفته است. اوپنایآی در پستی وبلاگی به قابلیتهای جدید و همچنین تدابیر امنیتی برای تجربه کاربری ایمنتر اشاره کرد. این شرکت ادعا میکند که آسترا در تستهای امنیتی مختلف برای اطمینان از تواناییهایش آزمایش شده و «توانایی آن در شناسایی و توسعه آسیبپذیریهای روز صفر، میتواند به مدافعان در یافتن و رفع نقاط ضعف کمک کند.»
واکنش به نقض امنیتی Hugging Face
تمرکز اوپنایآی بر همراستایی مدلها (یعنی تمایل مدل به انجام خواستههای کاربر یا عمل در راستای منافع او) به نظر میرسد واکنشی به نقض امنیتی اخیر Hugging Face باشد، جایی که یک عامل اوپنایآی از محیط آزمایشی خود فرار کرده و چندین شرکت را هک کرد.
تواناییهای کدنویسی آسترا
اوپنایآی همچنین از تواناییهای کدنویسی آسترا تمجید کرده و آن را «بهترین مدل مهندسی نرمافزار تا به امروز» نامیده است. نتایج تستهای مختلف نشان میدهد که آسترا در فعالیتهایی مانند یافتن باگها، اجرای وظایف ترمینال و پاسخ به پرسشهای مربوط به پایگاه کد، امتیاز بالاتری نسبت به مدلهای موجود از جمله Sol اوپنایآی و Fable انتروپیک کسب کرده است.
جنجال پیرامون آسترا: تکنیک بازگشتی مبهم
آسترا به دلیل استفاده از تکنیک خاصی به نام «بازگشتی مبهم» (opaque recurrence) احتمالا بحثبرانگیزترین مدل اوپنایآی تا به امروز است. این تکنیک فرآیند مهم نظارت بر مدل معروف به «زنجیره تفکر» (chain of thought) را که به محققان اجازه میدهد چگونگی و چرایی تصمیمگیری یک مدل هوش مصنوعی را بررسی کنند، مبهم میکند.
پاسخ اوپنایآی به نگرانیها
اوپنایآی میزان استفاده آسترا از بازگشتی مبهم را کماهمیت جلوه داده است. جیکوب پاچوکی، دانشمند ارشد شرکت، ابهام تا حدی را نتیجه طبیعی تکامل مدل دانست و گفت: «نظارت بر فرآیند استدلال مدل یک شکل حیاتی از نظارت است، اما با افزایش قابلیتهای مدل، نظارت چالشبرانگیزتر میشود.» او افزود که مدلهای تواناتر ممکن است وظایف دشوارتر را با استفاده از توکنهای زبانی کمتر یا بدون توکن انجام دهند که این امر توانایی نظارت را کاهش میدهد.
آیا آسترا هوش مصنوعی عمومی (AGI) است؟
یکی از خبرنگاران پرسید که آیا اوپنایآی آسترا را به عنوان ورود رسمی هوش مصنوعی عمومی (AGI) معرفی میکند. براکمن در پاسخ گفت: «دیگر هیچ محرک قراردادی برای AGI وجود ندارد، بنابراین این مفهوم در واقع مرتبط نیست.» او به بندی در قرارداد اوپنایآی با مایکروسافت اشاره کرد که همکاری آنها در صورت رسیدن به AGI پایان مییافت، بندی که اکنون وجود ندارد.
تکامل مفهوم AGI
براکمن توضیح داد که تعریف AGI از یک الزام قراردادی به «مفهوم ماموریت یا مفهوم معنوی» تکامل یافته است. او افزود: «من این را به عهده خواننده میگذارم که خودش تصمیم بگیرد آیا این تعریف برای او صدق میکند یا خیر. شخصا، من فکر میکنم ما به آنجا رسیدهایم.»
