اصطلاح

یک بار دیدن کامل کل دیتاست آموزشی توسط مدل؛ آموزش معمولاً در چندین دوره تکرار می‌شود.

اندازه گام‌هایی که مدل در هر به‌روزرسانی برای کم کردن خطا برمی‌دارد.

تکنیک تسریع استنتاج که یک مدل کوچک (Draft) پیش‌بینی‌های موقت می‌کند و مدل بزرگ (Verifier) آن‌ها را تأیید یا رد می‌کند.

شاخه‌ای از هوش مصنوعی که محتوای جدید (متن، تصویر، کد، موسیقی، ویدئو) تولید می‌کند نه فقط طبقه‌بندی یا پیش‌بینی.

روش fine-tuning کارآمد که به‌جای به‌روزرسانی کل وزن‌ها، ماتریس‌های rank پایین کوچک را آموزش می‌دهد.

فرآیند استفاده از مدل آموزش‌دیده برای پردازش ورودی جدید و تولید خروجی؛ مرحله مقابل آموزش.

مدل‌هایی که وزن‌های آموزش‌دیده آن‌ها به‌صورت عمومی منتشر شده و قابل دانلود، اجرا و fine-tune هستند.

جانبداری نظام‌مند مدل که از داده‌های آموزشی غیرمتوازن یا نمایانه‌ساز نامناسب ناشی می‌شود.

تلاش برای دور زدن محدودیت‌های امنیتی مدل از طریق پرامپت‌های طراحی‌شده برای بیرون کشیدن محتوای ممنوع.

حوزه تحقیقاتی که هدف آن اطمینان از همسو بودن اهداف و رفتار سیستم‌های هوش مصنوعی با ارزش‌ها و اهداف انسانی است.

مجموعه ۱۶۴ مسئله کدنویسی پایتون که مدل باید تابع کامل کند و با تست‌های واحد اجرا می‌شود.

Massive Multitask Language Understanding: مجموعه ~۱۶K سؤال چندگزینه‌ای در ۵۷ رشته از ابتدایی تا کارشناسی ارشد.

مجموعه آزمون استاندارد برای ارزیابی و مقایسه عینی توانایی‌های مدل‌های هوش مصنوعی.

مکانیزم‌هایی برای ذخیره و بازیابی اطلاعات فراتر از پنجره زمینه یا بین جلسات مختلف.

قابلیت مدل زبانی برای تولید فراخوانی ساختاریافته ابزارها و APIها به‌جای متن ساده.

سیستمی که از LLM به‌عنوان موتور تصمیم‌گیری استفاده می‌کند تا اهداف چندمرحله‌ای را با ابزارهای خارجی انجام دهد.

مدل‌هایی که می‌توانند چندین نوع داده (متن، تصویر، صدا، ویدئو) را درک کنند و با هم پردازش کنند.

مدل تولیدی که تصویر را از نویز تصادفی خالص با پالایش‌های تدریجی گام‌به‌گام ایجاد می‌کند.

کش بردارهای Key و Value مکانیزم توجه برای توکن‌های قبلی که محاسبه مجدد آن‌ها را در تولید حذف می‌کند.

معماری که از چند زیرشبکه تخصصی (Expert) تشکیل شده و برای هر ورودی فقط بخش کوچکی از آن‌ها فعال می‌شود.