Mistral AI: обзор моделей французской нейросети и как подключить Mistral API

Что такое Mistral AI

Mistral AI это французская компания, которая выпускает и открытые модели с доступными весами, и коммерческие через API. Она известна тем, что делает компактные модели с хорошим качеством на европейских языках, включая русский.

В каталоге LLM Mart линейка представлена текстовыми моделями Large и Medium, а также речевыми Voxtral. Названия версий в слагах соответствуют поколениям: 4.0 и 3.5 это разные поколения с разными окнами контекста.

Large и Medium: что выбрать

Mistral Large 4.0 держит контекст в миллион токенов и стоит заметно дешевле за миллион входных токенов, чем Medium 3.5. Это необычная ситуация: младшая по номеру модель оказывается выгоднее на входе. Причина в архитектуре и в том, что Medium ориентирована на другие сценарии.

На практике Large 4.0 разумно брать как рабочую модель для длинных документов: цена за вход низкая, а окно позволяет не резать текст на части. Medium 3.5 стоит рассматривать, если нужны её особенности на конкретных задачах, но проверять это стоит на своих примерах, потому что вход у неё дороже.

Voxtral: речь

Отдельная ветка Voxtral решает задачи с аудио: распознавание речи и транскрипция. Такие модели считаются не по токенам, а за секунды записи, поэтому в таблицах цен за миллион токенов они не участвуют.

Для расшифровки встреч и субтитров Voxtral стоит рассматривать наравне с Whisper: у обеих линеек есть варианты разного размера и цены. Проверять нужно на своих записях, потому что качество сильно зависит от языка, акцента и шума.

Как подключить

Протокол OpenAI-совместимый, поэтому работает обычный SDK. Ключ выпускается в кабинете LLM Mart, отдельная регистрация на mistral.ai не нужна, оплата проходит в рублях.

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["LLM_MART_API_KEY"],
    base_url="https://llmmart.ru/api/v1",
)
response = client.chat.completions.create(
    model="mistralai/mistral-large-4-0",
    messages=[{"role": "user", "content": "Составь план миграции базы без простоя."}],
)
print(response.choices[0].message.content)

curl -s https://llmmart.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $LLM_MART_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"mistralai/mistral-large-4-0","messages":[{"role":"user","content":"Привет"}]}'

Когда выбирать Mistral

Первое: европейские языки, включая русский, где компактные модели Mistral часто дают аккуратный результат. Второе: длинные документы при низкой цене за вход, что делает Large 4.0 удобной рабочей моделью.

Третье: требования к европейскому провайдеру. Если у компании есть предпочтения по юрисдикции поставщика, Mistral их закрывает. На чисто технических задачах разница с китайскими и американскими моделями невелика, поэтому решает цена на вашем объёме.

Модели с ценами лежат в разделе Mistral каталога, инструкции по переносу собраны на странице Mistral API.