ماشین حساب سخت افزار هوش مصنوعی
حداقل VRAM مورد نیاز، کارت گرافیک پیشنهادی و سرعت تخمینی را بر اساس اندازه مدل و نوع کوانتیزیشن محاسبه کنید.
این ابزار برآورد تقریبی از نیازمندیهای سختافزاری مدلهای زبانی بزرگ (LLM) ارائه میدهد. محاسبات بر اساس فرمولهای استاندارد جامعه هوش مصنوعی و دادههای واقعی انجام شده است.
پارامترهای ورودی
نتایج
پارامترها را انتخاب کنید و دکمه «محاسبه کن» را بزنید.
مقایسه کارتهای گرافیک محبوب
| کارت گرافیک | VRAM | پهنای باند | قیمت تقریبی | مناسب برای |
|---|
فرمول محاسبه
وزن مدل (GB): تعداد پارامتر (B) × ضریب کوانتیزیشن
VRAM مورد نیاز: وزن مدل + کش KV + ۱۵٪ سربار فریمورک
سرعت تخمینی: پهنای باند حافظه ÷ وزن مدل (تقریبی tokens/sec)
توجه: این مقادیر تخمینی هستند و بسته به سختافزار، درایور و نرمافزار مورد استفاده متفاوت خواهند بود.