Пакетный режим. Google: Gemma 4 31B (batch) выполняет запросы заданием: до 20 запросов в одном задании, без потоковой передачи. Задание создаётся запросом POST /v1/batches, результат читается запросом GET /v1/batches/{id}. В поле model задания укажите google/gemma-4-31b-it:batch. Вход стоит 51,79 ₽ за миллион токенов. Карточка базовой модели.
Модель доступна на этих площадках.
Вы можете выбрать конкретную площадку, провайдера, обеспечивающего доступ к ней, либо воспользоваться нашими типовыми правилами маршрутизации.
| Площадка | Провайдер | Вход | Выход | Ошибки tool-calling | Ошибки structured output |
|---|---|---|---|---|---|
| bothub n/a | bothub | 51,79 ₽/M | 128,8 ₽/M | — | — |
Результаты на стандартизированных оценках. Проценты и ранги показывают положение модели среди моделей каталога.
Готовый код для вызова модели. API совместим с OpenAI: укажите base_url LLM Mart. В примере уже подставлен slug: google/gemma-4-31b-it:batch.
curl -s "https://llmmart.ru/api/v1/batches" \
-H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"requests": [{
"custom_id": "1",
"method": "POST",
"url": "/v1/chat/completions",
"body": {
"model": "google/gemma-4-31b-it:batch",
"messages": [{"role": "user", "content": "Привет!"}]
}
}]
}'
# результат: GET https://llmmart.ru/api/v1/batches/<id из ответа>import requests
# Пакетный режим: до 20 запросов в одном задании, поток не поддерживается.
task = requests.post(
"https://llmmart.ru/api/v1/batches",
headers={"Authorization": "Bearer sk-..."}, # API-ключ из личного кабинета
json={
"requests": [
{
"custom_id": "1",
"method": "POST",
"url": "/v1/chat/completions",
"body": {
"model": "google/gemma-4-31b-it:batch",
"messages": [{"role": "user", "content": "Привет!"}],
},
}
]
},
).json()
print(task["id"])
# Результат читается отдельным запросом:
# requests.get(f"https://llmmart.ru/api/v1/batches/{task['id']}", headers=...)// Пакетный режим: до 20 запросов в одном задании, поток не поддерживается.
const response = await fetch("https://llmmart.ru/api/v1/batches", {
method: "POST",
headers: {
Authorization: "Bearer " + process.env.LLM_ROUTER_API_KEY,
"Content-Type": "application/json",
},
body: JSON.stringify({
requests: [
{
custom_id: "1",
method: "POST",
url: "/v1/chat/completions",
body: {
model: "google/gemma-4-31b-it:batch",
messages: [{ role: "user", content: "Привет!" }],
},
},
],
}),
});
const task = await response.json();
console.log(task.id);
// Результат читается отдельным запросом: GET https://llmmart.ru/api/v1/batches/{id}Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.