Эта модель предлагает в четыре раза большую длину контекста, чем gpt-3.5-turbo, что позволяет ей поддерживать примерно 20 страниц текста в одном запросе за более высокую цену. Данные обучения: до сентября 2021 г.
Модель доступна на этих площадках.
Вы можете выбрать конкретную площадку, провайдера, обеспечивающего доступ к ней, либо воспользоваться нашими типовыми правилами маршрутизации.
| Площадка | Провайдер | Вход | Выход | Ошибки tool-calling | Ошибки structured output |
|---|---|---|---|---|---|
| Azure n/a | лучший провайдер: 1routerai | 326 ₽/M | 434 ₽/M | 0 % | 0 % |
| второй провайдер: 2ru_openrouter | 330 ₽/M | 439 ₽/M | |||
| третий провайдер: 3polza | 334 ₽/M | 446 ₽/M | |||
| OpenAI n/a | лучший провайдер: 1routerai | 326 ₽/M | 434 ₽/M | 0 % | 0 % |
| второй провайдер: 2ru_openrouter | 330 ₽/M | 439 ₽/M | |||
| третий провайдер: 3polza | 334 ₽/M | 446 ₽/M | |||
| proxyapi n/a | лучший провайдер: 1proxyapi | 256 ₽/M | 511 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| AllTokens n/a | лучший провайдер: 1AllTokens | 359 ₽/M | 479 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| SprutDock n/a | лучший провайдер: 1SprutDock | 371 ₽/M | 495 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| Caila n/a | лучший провайдер: 1Caila | 389 ₽/M | 519 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| bothub n/a | лучший провайдер: 1bothub | 400 ₽/M | 533 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| Neurly n/a | лучший провайдер: 1Neurly | 406 ₽/M | 541 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| GPUniq n/a | лучший провайдер: 1GPUniq | 434 ₽/M | 578 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| VseGPT n/a | лучший провайдер: 1VseGPT | 450 ₽/M | 600 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| ZvenoAI n/a | лучший провайдер: 1ZvenoAI | 580 ₽/M | 773 ₽/M | — | — |
| — | — | ||||
| — | — | ||||
| RockAPI n/a | лучший провайдер: 1RockAPI | 840 ₽/M | 1 120 ₽/M | — | — |
| — | — | ||||
| — | — |
Для этой модели пока нет опубликованных результатов бенчмарков.
Готовый код для вызова модели. API совместим с OpenAI: укажите base_url LLM Mart. В примере уже подставлен slug: openai/gpt-3.5-turbo-16k.
curl -s "https://llmmart.ru/api/v1/chat/completions" \
-H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-3.5-turbo-16k",
"messages": [
{"role": "user", "content": "Привет!"}
]
}'Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.