Mistral: Ministral 8B

Name: Mistral: Ministral 8B
Brand: Mistralai
Price: 14.61 RUB
Availability: InStock

mistralai/ministral-8b

Ministral 8B — это модель параметров 8B с уникальным чередующимся шаблоном внимания со скользящим окном для более быстрого вывода с эффективным использованием памяти. Разработанный для периферийных случаев использования, он поддерживает длину контекста до 128 тыс. и превосходно справляется с задачами по сбору знаний и рассуждению. Он превосходит аналоги в категории ниже 10B, что делает его идеальным для приложений с малой задержкой и конфиденциальностью.

Модальности

Цена ввод / вывод

от15 ₽/M

за 1M токенов

Контекст128K

Релиз17 окт. 2024 г.

Доступные площадки

Модель доступна на этих площадках.
Вы можете выбрать конкретную площадку, провайдера, обеспечивающего доступ к ней, либо воспользоваться нашими типовыми правилами маршрутизации.

Комиссия

Площадка	Провайдер	Вход	Выход	Ошибки tool-calling	Ошибки structured output
bothub n/a	лучший провайдер: 1bothub	15 ₽/M	15 ₽/M	—	—
		—	—
		—	—
GPTunneL n/a	лучший провайдер: 1GPTunneL	100 ₽/M	100 ₽/M	—	—
		—	—
		—	—

Бенчмарки

Для этой модели пока нет опубликованных результатов бенчмарков.

Быстрый старт

Готовый код для вызова модели. API совместим с OpenAI: укажите base_url LLM Mart. В примере уже подставлен slug: mistralai/ministral-8b.

curl -s "https://llmmart.ru/api/v1/chat/completions" \
  -H "Authorization: Bearer $LLM_ROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/ministral-8b",
    "messages": [
      {"role": "user", "content": "Привет!"}
    ]
  }'

Нужен API-ключ организации — создайте ключ в личном кабинете или см. инструкцию. Подробнее: первый запрос к модели и примеры SDK.