Meta.llama

Meta: Llama 3.3 70B Instruct

meta-llama/llama-3.3-70b-instruct

Многоязычная модель большого языка (LLM) Meta Llama 3.3 представляет собой предварительно обученную и настроенную на инструкции генеративную модель в 70B (ввод/вывод текста). Модель Llama 3.3, настроенная только на текст, оптимизирована для случаев использования многоязычного диалога и превосходит многие доступные модели с открытым исходным кодом и закрытого чата по общим отраслевым тестам. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Карточка моделиОткрывается в новой вкладке

Модальности
Вход: Текст
Выход: Текст
Цена ввод / вывод
Вводот11 ₽/M
Выводот36 ₽/M
Кэшот47 ₽/M
за 1M токенов
Контекст131K
Релиз6 дек. 2024 г.

Доступные площадки

Модель доступна на этих площадках.
Вы можете выбрать конкретную площадку, провайдера, обеспечивающего доступ к ней, либо воспользоваться нашими типовыми правилами маршрутизации.

ПлощадкаПровайдерВходВыходКэшОшибки tool-callingОшибки structured output
Novita
bf16
лучший провайдер: 1ru_openrouter15 ₽/M44 ₽/M—5,1 %—
второй провайдер: 2routerai15 ₽/M44 ₽/M—
третий провайдер: 3polza15 ₽/M45 ₽/M—
Crusoe
bf16
лучший провайдер: 1polza28 ₽/M85 ₽/M15 ₽/M——
———
———
SprutDock
n/a
лучший провайдер: 1SprutDock13 ₽/M40 ₽/M———
———
———
AllTokens
n/a
лучший провайдер: 1AllTokens13 ₽/M40 ₽/M———
———
———
proxyapi
n/a
лучший провайдер: 1proxyapi13 ₽/M41 ₽/M———
———
———
sambanova
bf16
лучший провайдер: 1polza68 ₽/M135 ₽/M———
———
———
CoreWeave
fp16
лучший провайдер: 1routerai78 ₽/M78 ₽/M78 ₽/M3,6 %2,0 %
второй провайдер: 2ru_openrouter78 ₽/M78 ₽/M78 ₽/M
третий провайдер: 3polza80 ₽/M80 ₽/M80 ₽/M
WandB
fp16
лучший провайдер: 1polza80 ₽/M80 ₽/M80 ₽/M——
———
———
wandb-legacy
fp16
лучший провайдер: 1polza80 ₽/M80 ₽/M80 ₽/M——
———
———
DeepInfra
fp8
лучший провайдер: 1routerai11 ₽/M35 ₽/M———
———
———
Nebius
fp8
лучший провайдер: 1polza15 ₽/M45 ₽/M———
———
———
AkashML
fp8
лучший провайдер: 1routerai22 ₽/M57 ₽/M11 ₽/M11 %0,4 %
второй провайдер: 2ru_openrouter22 ₽/M57 ₽/M11 ₽/M
третий провайдер: 3polza23 ₽/M59 ₽/M11 ₽/M
Parasail
fp8
лучший провайдер: 1ru_openrouter24 ₽/M55 ₽/M12 ₽/M—0,6 %
второй провайдер: 2polza25 ₽/M56 ₽/M12 ₽/M
———
Together
fp8
лучший провайдер: 1polza117 ₽/M117 ₽/M———
———
———
Cloudflare
fp8
лучший провайдер: 1routerai32 ₽/M247 ₽/M———
второй провайдер: 2ru_openrouter32 ₽/M248 ₽/M—
третий провайдер: 3polza33 ₽/M254 ₽/M—
deepinfra/turbo
n/a
лучший провайдер: 1polza11 ₽/M36 ₽/M———
———
———
Neurly
n/a
лучший провайдер: 1Neurly13 ₽/M43 ₽/M———
———
———
Inceptron
n/a
лучший провайдер: 1polza14 ₽/M43 ₽/M———
———
———
bothub
n/a
лучший провайдер: 1bothub14 ₽/M43 ₽/M———
———
———
Akash
n/a
лучший провайдер: 1polza15 ₽/M45 ₽/M———
———
———
ZvenoAI
n/a
лучший провайдер: 1ZvenoAI18 ₽/M60 ₽/M———
———
———
VSellm
n/a
лучший провайдер: 1VSellm24 ₽/M55 ₽/M———
———
———
AITUNNEL
n/a
лучший провайдер: 1AITUNNEL20 ₽/M64 ₽/M———
———
———
Cloud.ru FM
n/a
лучший провайдер: 1Cloud.ru FM21 ₽/M63 ₽/M———
———
———
Hyperbolic
n/a
лучший провайдер: 1polza45 ₽/M45 ₽/M———
———
———
cloud-ru
n/a
лучший провайдер: 1polza28 ₽/M84 ₽/M———
———
———
Friendli
n/a
лучший провайдер: 1polza68 ₽/M68 ₽/M68 ₽/M——
———
———
sambanova-turbo
n/a
лучший провайдер: 1ru_openrouter49 ₽/M99 ₽/M———
второй провайдер: 2polza51 ₽/M101 ₽/M—
———
sambanova
n/a
лучший провайдер: 1routerai49 ₽/M99 ₽/M———
———
———
groq
n/a
лучший провайдер: 1ru_openrouter65 ₽/M86 ₽/M32 ₽/M14 %—
второй провайдер: 2routerai65 ₽/M87 ₽/M32 ₽/M
третий провайдер: 3polza66 ₽/M89 ₽/M33 ₽/M
google-vertex
n/a
лучший провайдер: 1routerai79 ₽/M79 ₽/M———
второй провайдер: 2ru_openrouter79 ₽/M79 ₽/M—
третий провайдер: 3polza81 ₽/M81 ₽/M—
google-vertex/us-central1
n/a
лучший провайдер: 1ru_openrouter79 ₽/M79 ₽/M———
второй провайдер: 2polza81 ₽/M81 ₽/M—
———
VseGPT
n/a
лучший провайдер: 1VseGPT80 ₽/M80 ₽/M———
———
———
Fireworks
n/a
лучший провайдер: 1polza101 ₽/M101 ₽/M51 ₽/M——
———
———
Together
n/a
лучший провайдер: 1ru_openrouter114 ₽/M114 ₽/M—5,9 %0,3 %
второй провайдер: 2polza117 ₽/M117 ₽/M—
———
Cerebras
n/a
лучший провайдер: 1polza96 ₽/M135 ₽/M96 ₽/M——
———
———
GPTunneL
n/a
лучший провайдер: 1GPTunneL900 ₽/M900 ₽/M———
———
———

Бенчмарки

Результаты на стандартизированных оценках. Проценты и ранги показывают положение модели среди моделей каталога.

ПрограммированиеНиже среднего
11.9%Способность решать задачи программирования

Быстрый старт

Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: meta-llama/llama-3.3-70b-instruct.

curl -s "https://llmmart.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.3-70b-instruct",
    "messages": [
      {"role": "user", "content": "Привет!"}
    ]
  }'

Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.

Ещё модели от Meta.llama

Meta: Llama 3.3 70B Instruct — цены и детали API | LLM Mart