LLM Mart Chat
Корпоративный AI-чат для команды: разворачивается на серверах компании, данные остаются в вашем контуре, запросы к моделям идут через LLM Mart с политиками орга
Подробнее о продукте: llmmart.ru/products/chat.
Что нужно
- Docker с Compose v2 или Kubernetes с Helm 3
- Организация в LLM Mart (business-аккаунт для корпоративного чата)
- Ключ подключения
sk-mgmt-…— Management API (создаётся в личном кабинете) - После онбординга чат использует inference-ключ
sk-…к gatewayhttps://www.llmmart.ru/api/v1— вручную его настраивать не нужно
Протокол
Чат обращается к LLM Mart по OpenAI-совместимому gateway: https://www.llmmart.ru/api/v1. Ключи и endpoint прописываются автоматически при первом подключении.
Установка
Docker Compose (рекомендуется для одного хоста):
curl -fsSL https://www.llmmart.ru/dist/llmmart-chat/install.sh | bashKubernetes (Helm):
helm install llmmart-chat \
oci://docker.io/kuznetsovyan476/llmmart-chat \
--set autoUpdate.enabled=trueУстановщик поднимает чат, админ-панель экземпляра, MongoDB, Meilisearch и автообновление. Опционально — RAG-профиль для работы с документами (см. продуктовую страницу).
Подключение к LLM Mart
- Откройте чат в браузере после установки.
- Войдите как ADMIN — запустится мастер подключения.
- Введите ключ
sk-mgmt-…из личного кабинета LLM Mart (Management API). - Мастер провижинит workspace, создаст inference-ключ
sk-…и настроит gateway — дополнительная ручная настройка не требуется.
Оплата
Дистрибутив чата — бесплатно, без лицензии на продукт. Оплата только за токены моделей через LLM Mart: бюджеты и лимиты задаются в личном кабинете.
Типичные ошибки
| Симптом | Что проверить |
|---|---|
| 401 при онбординге | ключ sk-mgmt-…, не sk-… |
| 403 при онбординге | business-организация; владелец sk-mgmt- — менеджер |
| Чат не достучался до LLM Mart | исходящий доступ к llmmart.ru с сервера чата |
| Модели недоступны | включение моделей в кабинете |
Проверено: 2026-09-01 по продуктовой странице LLM Mart Chat.