LLM Mart
Начать
Meta.llama

Meta: Llama 3.1 8B Instruct

meta-llama/llama-3.1-8b-instruct

Модель последнего класса Meta (Llama 3.1) выпущена в различных размерах и вкусах. Эта версия 8B, настроенная по инструкциям, быстрая и эффективная. Он продемонстрировал высокие результаты по сравнению с ведущими моделями с закрытым исходным кодом при человеческих оценках. Чтобы узнать больше о выпуске модели, нажмите здесьОткрывается в новой вкладке. Использование этой модели регулируется Политикой допустимого использования Meta.Открывается в новой вкладке.

Модальности
Вход: Текст
Выход: Текст
Цена ввод / вывод
Вводот2,08 ₽/M
Выводот4,16 ₽/M
Кэшот13 ₽/M
за 1M токенов
Контекст131K
Релиз23 июл. 2024 г.

Доступные площадки

Модель доступна на этих площадках.
Вы можете выбрать конкретную площадку, провайдера, обеспечивающего доступ к ней, либо воспользоваться нашими типовыми правилами маршрутизации.

ПлощадкаПровайдерВходВыходКэшОшибки tool-callingОшибки structured output
DeepInfra
bf16
лучший провайдер: 1polza2,26 ₽/M5,64 ₽/M———
———
———
CoreWeave
bf16
лучший провайдер: 1ru_openrouter24 ₽/M24 ₽/M24 ₽/M79 %2,4 %
второй провайдер: 2routerai24 ₽/M24 ₽/M24 ₽/M
третий провайдер: 3polza25 ₽/M25 ₽/M25 ₽/M
AllTokens
n/a
лучший провайдер: 1AllTokens3 ₽/M5 ₽/M———
———
———
ZvenoAI
n/a
лучший провайдер: 1ZvenoAI3,6 ₽/M7,5 ₽/M———
———
———
SprutDock
n/a
лучший провайдер: 1SprutDock6,25 ₽/M10 ₽/M3,13 ₽/M——
———
———
WandB
bf16
лучший провайдер: 1polza25 ₽/M25 ₽/M25 ₽/M——
———
———
wandb-legacy
bf16
лучший провайдер: 1polza25 ₽/M25 ₽/M25 ₽/M——
———
———
DeepInfra
fp8
лучший провайдер: 1ru_openrouter2,08 ₽/M4,16 ₽/M———
второй провайдер: 2routerai2,19 ₽/M4,39 ₽/M—
третий провайдер: 3polza2,26 ₽/M4,5 ₽/M—
Novita
fp8
лучший провайдер: 1ru_openrouter2,08 ₽/M5,2 ₽/M———
второй провайдер: 2routerai2,19 ₽/M5,49 ₽/M—
третий провайдер: 3polza2,26 ₽/M5,64 ₽/M—
Cloudflare
fp8
лучший провайдер: 1ru_openrouter17 ₽/M31 ₽/M———
второй провайдер: 2routerai17 ₽/M31 ₽/M—
третий провайдер: 3polza17 ₽/M32 ₽/M—
Nebius
n/a
лучший провайдер: 1polza2,26 ₽/M6,76 ₽/M———
———
———
SiliconFlow
n/a
лучший провайдер: 1polza6,76 ₽/M6,76 ₽/M———
———
———
groq
n/a
лучший провайдер: 1ru_openrouter5,2 ₽/M8,33 ₽/M3,12 ₽/M17 %—
второй провайдер: 2routerai5,49 ₽/M8,78 ₽/M2,74 ₽/M
третий провайдер: 3polza5,64 ₽/M9,02 ₽/M2,82 ₽/M
Neurly
n/a
лучший провайдер: 1Neurly6,69 ₽/M11 ₽/M———
———
———
proxyapi
n/a
лучший провайдер: 1proxyapi6,42 ₽/M11 ₽/M3,21 ₽/M——
———
———
bothub
n/a
лучший провайдер: 1bothub6,75 ₽/M11 ₽/M3,38 ₽/M——
———
———
Cerebras
n/a
лучший провайдер: 1polza11 ₽/M11 ₽/M11 ₽/M——
———
———
Friendli
n/a
лучший провайдер: 1polza11 ₽/M11 ₽/M11 ₽/M——
———
———
Hyperbolic
n/a
лучший провайдер: 1polza11 ₽/M11 ₽/M———
———
———
sambanova
n/a
лучший провайдер: 1polza11 ₽/M23 ₽/M———
———
———
VseGPT
n/a
лучший провайдер: 1VseGPT27 ₽/M60 ₽/M———
———
———

Бенчмарки

Результаты на стандартизированных оценках. Проценты и ранги показывают положение модели среди моделей каталога.

ПрограммированиеНиже среднего
5.4%Способность решать задачи программирования

Быстрый старт

Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: meta-llama/llama-3.1-8b-instruct.

curl -s "https://llmmart.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-8b-instruct",
    "messages": [
      {"role": "user", "content": "Привет!"}
    ]
  }'

Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.

Ещё модели от Meta.llama

Meta: Llama 3.1 8B Instruct — цены и детали API | LLM Mart