GigaChat от Сбера: модели, возможности и подключение по API

Какие модели GigaChat есть в каталоге

Линейка Sber в каталоге LLM Mart делится на три части. Флагман GigaChat 3.5 432B A28B построен как MoE: 432 млрд параметров всего, 28 млрд активных на токен, контекст 262 144. Следом идёт GigaChat 3 Pro с тем же окном контекста и близкой ценой. Компактная GigaChat 3 10B A1.8B нужна для дешёвых массовых вызовов.

Отдельно в каталоге живут модели прошлого поколения GigaChat 2 Max и GigaChat Max. У них контекст 32 768 токенов и высокая цена за миллион, поэтому в новых проектах их берут редко. Ещё в разделе Sber есть GigaASR для распознавания речи и Giga Embeddings для векторов.

Как вызвать GigaChat по API

Протокол OpenAI-совместимый, поэтому отдельный SDK Сбера не нужен. Идентификатор модели берётся из каталога в формате author/slug и может не совпадать с тем, что вы видите в кабинете developers.sber.ru. Ключ выпускается в кабинете LLM Mart и работает для всех моделей сразу.

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["LLM_MART_API_KEY"],
    base_url="https://llmmart.ru/api/v1",
)
response = client.chat.completions.create(
    model="sber/gigachat3-5-432b-a28b",
    messages=[{"role": "user", "content": "Сократи текст до трёх тезисов: ..."}],
)
print(response.choices[0].message.content)

curl -s https://llmmart.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $LLM_MART_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"sber/gigachat3-5-432b-a28b","messages":[{"role":"user","content":"Привет"}]}'

Сколько стоит GigaChat в рублях

Цены фиксируются в рублях на момент тарификации, наценка платформы уже включена в значения каталога. Платите за фактические токены: входные, выходные и кэшированные считаются отдельно. Абонентской платы и минимального объёма нет.

Флагман дороже компактной модели примерно в восемь раз на входе. Для чата с пользователем это оправдано, для разбора выгрузок и классификации чаще хватает 10B. Логика простая: сначала проверьте задачу на дешёвой модели, и переходите на флагман только там, где качество ответа видно на ваших примерах.

Чем GigaChat отличается от зарубежных моделей

Русский язык модель видит лучше, чем средний зарубежный конкурент, и это заметно на документах с юридической и технической лексикой. Разметка и термины из российских регламентов не требуют длинных пояснений в промпте. Для англоязычных задач разница стирается, и выбор идёт по цене.

Второй аргумент касается хранения данных. GigaChat в каталоге вызывается через LLM Mart, маршрут уходит к провайдеру, а учёт расходов и политики остаются в одном кабинете. Если у компании есть внутреннее требование держать российский контур, это упрощает согласование с ИБ.

Частые ошибки

Ответ 404 model_not_found означает, что модель не включена или не входит в список разрешённых для ключа. Ответ 401 говорит о ключе: он выпускается в кабинете LLM Mart, официальный ключ developers.sber.ru здесь не подходит. Подробный разбор кодов лежит в документации ошибок.

Ещё одна типовая ситуация связана с идентификаторами при переносе кода из другого шлюза. Слаг вида GigaChat-3.5 не сработает, нужен точный sber/gigachat3-5-432b-a28b из карточки модели.

Готовые рецепты для SDK и клиентов собраны на странице GigaChat API.