تعریف
حداکثر تعداد توکنی که مدل میتواند در یک بار پردازش کند؛ شامل ورودی، تاریخچه مکالمه و خروجی.
توضیح کامل
پنجره زمینه بزرگتر (مثلاً ۱M توکن Gemini) اسناد طولانی، کدبیسهای بزرگ و مکالمات طولانی را بدون قطع ممکن میکند. با گذشتن از پنجره، اطلاعات اول مکالمه از دید مدل خارج میشود. هزینه استنتاج معمولاً با طول زمینه رابطه مستقیم دارد.
مثال کاربردی
مدل با پنجره ۱۲۸K توکن میتواند کل یک کتاب ۱۰۰ صفحهای را یکجا پردازش کند.