Llama 3.3 70B Instruct

اطلاعات مدل

شناسه (Slug)

llama-3-3-70b-instruct-fp8

تاریخ انتشار

—

سازمان

Inceptron

دسترسی

پولی

داده‌های تحلیلی

شاخص‌ها

هوش ۹,۳

کدنویسی ۱۱,۹

عامل (Agentic) —

عملکرد

سرعت خروجی ۸۴,۰ t/s

زمان تا اولین توکن ۱,۶۵ ثانیه

زمان پاسخ کامل ۷,۶۰ ثانیه

شمار پارامترها

۷۰,۰B پارامتر

مجوز

Llama 3.3 Community License Agreement

ورودی

متن

خروجی

متن

پنجرهٔ زمینه

۱۳۱,۱ هزار توکن

میانگین قیمت ورودی (در ۱ میلیون توکن)

$0,10

میانگین قیمت خروجی (در ۱ میلیون توکن)

$0,32

نوع استفاده

متن

بنچمارک‌ها

general

IFEval ۹۲,۱% #9

MMLU ۸۶,۰% #33

BFCL v2 ۷۷,۳% #1

زبان

MMLU-Pro ۶۸,۹% #91

ریاضی

MGSM ۹۱,۱% #5

MATH ۷۷,۰% #23

استدلال

HumanEval ۸۸,۴% #21

MBPP EvalPlus ۸۷,۶% #2

GPQA ۵۰,۵% #181

تامین‌کننده‌ها (Providers)

این مدل از طریق 2 ارائه‌دهنده قابل دسترسی است.

ارائه‌دهنده	نوع	نام مدل	مدل اصلی	ورودی ($/1M)	خروجی ($/1M)	رایگان
Auriko	—	Llama 3.3 70B Instruct FP8	`llama-3.3-70b-instruct-fp8`	$1.04	$1.04	—
evroc	—	Llama-3.3-70B-Instruct	`nvidia/Llama-3.3-70B-Instruct-FP8`	$1.15	$1.15	—

معرفی مدل

مدل Llama 3.3 70B Instruct از شرکت Inceptron، یک مدل هوش مصنوعی پیشرفته با ۷۰ میلیارد پارامتر است که برای دستورات پیچیده و تعاملات دقیق بهینه‌سازی شده است. این نسخه با بهره‌گیری از دقت FP8، تعادل بی‌نظیری میان سرعت پردازش، کارایی سخت‌افزاری و دقت خروجی ارائه می‌دهد. توسعه‌دهندگان می‌توانند از این مدل قدرتمند در پروژه‌های پردازش زبان طبیعی، تولید محتوا، کدنویسی و سیستم‌های پرسش و پاسخ پیشرفته بهره ببرند. معماری مدرن این مدل، پاسخ‌هایی دقیق، متنی روان و منطقی منسجم را تضمین می‌کند.