Модель с параметрами 12B и длиной контекста токена 128 тыс., созданная Mistral в сотрудничестве с NVIDIA. Модель многоязычна и поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди. Он поддерживает вызов функций и распространяется под лицензией Apache 2.0.
Модель доступна на этих площадках.
Вы можете выбрать конкретную площадку, провайдера, обеспечивающего доступ к ней, либо воспользоваться нашими типовыми правилами маршрутизации.
| Площадка | Провайдер | Вход | Выход | Кэш | Ошибки tool-calling | Ошибки structured output |
|---|---|---|---|---|---|---|
| Io Net fp16 | лучший провайдер: 1routerai | 3,91 ₽/M | 14 ₽/M | 2,58 ₽/M | — | — |
| второй провайдер: 2polza | 4,02 ₽/M | 15 ₽/M | 2,65 ₽/M | |||
| третий провайдер: 3ru_openrouter | 4,16 ₽/M | 15 ₽/M | 2,08 ₽/M | |||
| DeepInfra fp8 | лучший провайдер: 1ru_openrouter | 2,08 ₽/M | 3,12 ₽/M | — | 4,2 % | 0,3 % |
| второй провайдер: 2routerai | 2,08 ₽/M | 3,29 ₽/M | — | |||
| третий провайдер: 3polza | 2,14 ₽/M | 3,38 ₽/M | — | |||
| SprutDock n/a | лучший провайдер: 1SprutDock | 2,38 ₽/M | 3,75 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| proxyapi n/a | лучший провайдер: 1proxyapi | 2,5 ₽/M | 3,91 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Neurly n/a | лучший провайдер: 1Neurly | 2,54 ₽/M | 4,01 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| dekallm fp8 | лучший провайдер: 1ru_openrouter | 2,08 ₽/M | 3,12 ₽/M | — | — | 0,3 % |
| второй провайдер: 2routerai | 1,98 ₽/M | 3,29 ₽/M | — | |||
| третий провайдер: 3polza | 2,03 ₽/M | 3,38 ₽/M | — | |||
| Parasail fp8 | лучший провайдер: 1ru_openrouter | 3,12 ₽/M | 3,12 ₽/M | — | — | 0,7 % |
| второй провайдер: 2routerai | 3,29 ₽/M | 3,29 ₽/M | — | |||
| третий провайдер: 3polza | 3,38 ₽/M | 3,38 ₽/M | — | |||
| Novita fp8 | лучший провайдер: 1routerai | 4,39 ₽/M | 19 ₽/M | — | — | — |
| второй провайдер: 2polza | 4,5 ₽/M | 19 ₽/M | — | |||
| — | — | — | ||||
| bothub n/a | лучший провайдер: 1bothub | 2,57 ₽/M | 4,05 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Chutes n/a | лучший провайдер: 1polza | 2,26 ₽/M | 4,5 ₽/M | 1,12 ₽/M | — | — |
| — | — | — | ||||
| — | — | — | ||||
| AllTokens n/a | лучший провайдер: 1AllTokens | 3 ₽/M | 4 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| ZvenoAI n/a | лучший провайдер: 1ZvenoAI | 3,4 ₽/M | 5,5 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| AITUNNEL n/a | лучший провайдер: 1AITUNNEL | 3,8 ₽/M | 6 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Mistral n/a | лучший провайдер: 1routerai | 16 ₽/M | 16 ₽/M | 1,65 ₽/M | — | — |
| второй провайдер: 2polza | 17 ₽/M | 17 ₽/M | 1,69 ₽/M | |||
| — | — | — | ||||
| mistral/eu n/a | лучший провайдер: 1ru_openrouter | 17 ₽/M | 17 ₽/M | 2,08 ₽/M | 0 % | 1,1 % |
| второй провайдер: 2polza | 17 ₽/M | 17 ₽/M | 1,69 ₽/M | |||
| — | — | — | ||||
| mistral/zdr n/a | лучший провайдер: 1polza | 19 ₽/M | 19 ₽/M | 1,86 ₽/M | — | — |
| — | — | — | ||||
| — | — | — | ||||
| Azure n/a | лучший провайдер: 1polza | 34 ₽/M | 34 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — | ||||
| VseGPT n/a | лучший провайдер: 1VseGPT | 50 ₽/M | 50 ₽/M | — | — | — |
| — | — | — | ||||
| — | — | — |
Для этой модели пока нет опубликованных результатов бенчмарков.
Готовый код для вызова модели. API совместим с OpenAI — достаточно указать base_url LLM Mart. Меняется только slug модели: mistralai/mistral-nemo.
curl -s "https://llmmart.ru/api/v1/chat/completions" \
-H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "mistralai/mistral-nemo",
"messages": [
{"role": "user", "content": "Привет!"}
]
}'Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.