Llama 3.2 3B — это многоязычная модель большого языка с 3 миллиардами параметров, оптимизированная для сложных задач обработки естественного языка, таких как генерация диалогов, рассуждение и обобщение. Разработанный с использованием новейшей архитектуры преобразователя, он поддерживает восемь языков, включая английский, испанский и хинди, а также адаптируется для дополнительных языков. Модель Llama 3.2 3B, обученная на 9 триллионах токенов, превосходно выполняет инструкции, выполняет сложные рассуждения и использует инструменты. Его сбалансированная производительность делает его идеальным для приложений, которым требуется точность и эффективность создания текста в многоязычных условиях. Нажмите здесь, чтобы увидеть карточку оригинальной модели.Открывается в новой вкладке. Использование этой модели регулируется Политикой допустимого использования Meta.Открывается в новой вкладке.
Модальности
Вход: Текст
Выход: Текст
Цена ввод / выводза 1M токенов
Вводот2,26 ₽/M
Выводот2,26 ₽/M
Контекст131K
Релиз25 сент. 2024 г.
Доступные площадки
Модель доступна на этих площадках.
Вы можете выбрать конкретную площадку, провайдера, обеспечивающего доступ к ней, либо воспользоваться нашими типовыми правилами маршрутизации.
| Площадка | Провайдер | Вход | Выход | Кэш | Ошибки tool-calling | Ошибки structured output |
|---|---|---|---|---|---|---|
| Parasail bf16 | лучший провайдер: 1ru_openrouter | 5,2 ₽/M | 36 ₽/M | — | — | 1,0 % |
| второй провайдер: 2routerai | 5,49 ₽/M | 36 ₽/M | — | |||
| третий провайдер: 3polza | 5,64 ₽/M | 37 ₽/M | — | |||
| DeepInfra n/a | лучший провайдер: 1polza | 2,26 ₽/M | 2,26 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| ModelGate n/a | лучший провайдер: 1ModelGate | 2,2 ₽/M | 2,2 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| SprutDock n/a | лучший провайдер: 1SprutDock | 6,25 ₽/M | 41 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| AllTokens n/a | лучший провайдер: 1AllTokens | 7 ₽/M | 41 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Together n/a | лучший провайдер: 1polza | 6,76 ₽/M | 6,76 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Hyperbolic n/a | лучший провайдер: 1polza | 11 ₽/M | 11 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Cloudflare n/a | лучший провайдер: 1ru_openrouter | 5,2 ₽/M | 36 ₽/M | — | — | — |
| второй провайдер: 2routerai | 5,59 ₽/M | 37 ₽/M | — | |||
| третий провайдер: 3polza | 5,73 ₽/M | 38 ₽/M | — | |||
| proxyapi n/a | лучший провайдер: 1proxyapi | 6,42 ₽/M | 43 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Neurly n/a | лучший провайдер: 1Neurly | 6,58 ₽/M | 43 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| bothub n/a | лучший провайдер: 1bothub | 6,75 ₽/M | 45 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| VseGPT n/a | лучший провайдер: 1VseGPT | 15 ₽/M | 50 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| ZvenoAI n/a | лучший провайдер: 1ZvenoAI | 9 ₽/M | 60 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| AITUNNEL n/a | лучший провайдер: 1AITUNNEL | 10 ₽/M | 66 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — |
Бенчмарки
Для этой модели пока нет опубликованных результатов бенчмарков.
Быстрый старт
Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: meta-llama/llama-3.2-3b-instruct.
curl -s "https://llmmart.ru/api/v1/chat/completions" \
-H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/llama-3.2-3b-instruct",
"messages": [
{"role": "user", "content": "Привет!"}
]
}'Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.
Ещё модели от Meta.llama
Вводот20 ₽/M
Выводот20 ₽/M
Вводот23 ₽/M
Выводот68 ₽/M
Кэшот19 ₽/M
Вводот11 ₽/M
Выводот33 ₽/M
Кэшот12 ₽/M
Вводот11 ₽/M
Выводот35 ₽/M
Кэшот47 ₽/M
Ввод56 ₽/M
Вывод56 ₽/M
Вводот3,12 ₽/M
Выводот22 ₽/M
Вводот44 ₽/M
Выводот44 ₽/M
Кэшот90 ₽/M
Вводот2,08 ₽/M
Выводот4,16 ₽/M
Кэшот13 ₽/M
Ввод23 ₽/M
Вывод23 ₽/M