Личные аккаунты — вне контроля
Сотрудники решают рабочие задачи в публичных чатах с личных аккаунтов. Что туда попадает — не видят ни ИТ, ни ИБ.
AI-чаты для вашей командыБезопасно. В контуре вашей компании.
Сотрудники уже работают с AI-чатами — вопрос лишь, где это происходит и под чьим контролем. LLM Mart Chat разворачивается на ваших серверах: данные не покидают периметр, а каждый запрос к моделям проходит политики LLM Mart.
БесплатноДистрибутив чата — без лицензии и подписки на продукт
Ваш серверИстория чатов и файлы — в вашей инфраструктуре
По токенамОплата только за запросы к моделям через LLM Mart
~10 минутТипичная установка через Docker Compose
Зачем это нужно
AI-чаты уже в вашей компании. Осталось вернуть контроль.
LLM Mart Chat — корпоративный чат в контуре вашей компании: данные и история остаются у вас. Это не облачный ChatGPT и не страницы API-ключей /openai-api и /claude-api — отдельный продукт для команд внутри периметра.
Данные уходят наружу
Фрагменты кода, договоры и внутренние цифры отправляются внешним сервисам напрямую — без фильтров и без журнала.
Доступ не отозвать
Сотрудник уволился, а его переписка с корпоративными данными осталась в личном аккаунте у стороннего провайдера.
Безопасность
Контур остаётся вашим.
LLM Mart Chat разворачивается на серверах компании и подключается к LLM Mart: политики компании применяются до отправки запроса к модели.
Данные в вашем периметре
История чатов, файлы и поисковый индекс хранятся в MongoDB на вашем сервере. Резервные копии — по вашим регламентам.
Запросы под контролем LLM Mart
Обращения к моделям идут через платформу: бюджеты, фильтры данных и ограничения по моделям действуют до отправки запроса.
Без ключей провайдеров
Ключи OpenAI и других провайдеров в ваш контур не попадают. Чат сам настраивает взаимодействие с LLM Mart при подключении.
Централизованный доступ
Учётные записи сотрудников управляются из админ-панели экземпляра. Доступ отзывается в один клик — вместе с историей в контуре.
Возможности
Один чат для всей компании.
Привычный сотрудникам интерфейс AI-чата — с управлением, которого ждут ИТ и ИБ.
Все модели в одном окне
Переключение между моделями в один клик. LLM Mart выбирает лучший маршрут к каждой модели через биржу провайдеров.
Агенты и пресеты
Готовые инструкции и роли для повторяющихся задач: юристы, аналитики, поддержка — у каждой команды свой набор.
Поиск по истории
Быстрый поиск по всем чатам и сообщениям — нужный ответ находится за секунды, а не прокруткой ленты.
Работа с документами
Опциональный RAG-профиль: чат отвечает по корпоративным документам, которые хранятся в вашем контуре.
Мультиязычный интерфейс
Русский и английский интерфейс из коробки, локализация расширяется под ваши команды.
Админ-панель
Пользователи, роли, лимиты и настройки экземпляра — в отдельной консоли администратора.
Как это работает
Чат — в вашем контуре, модели — через LLM Mart.
Экземпляр чата подключается к платформе один раз — дальше действуют политики, бюджеты и аудит вашей организации.
- Шаг 1
Разверните стек у себя
Одна команда поднимает чат, админ-панель, MongoDB и поиск на вашем сервере. Наружу смотрит только подключение к LLM Mart.
- Шаг 2
Подключите к LLM Mart
При первом запуске мастер попросит ключ подключения из личного кабинета LLM Mart и сам настроит рабочее пространство компании.
- Шаг 3
Работайте под политиками
Запросы сотрудников проходят через LLM Mart: действуют бюджеты, фильтры данных и аудит вашей организации.
Оплата
Чат поставляется бесплатно. Счёт — только за токены.
Дистрибутив LLM Mart Chat, админ-панель и обновления — без лицензии на продукт. Расходы появляются только когда сотрудники отправляют запросы к моделям: оплата по фактическому использованию токенов в LLM Mart, с бюджетами и лимитами в личном кабинете.
Продукт — без абонплаты
Разворачиваете чат на своих серверах без оплаты за сам дистрибутив. Инфраструктура хостинга — на вашей стороне, как у любого self-hosted сервиса.
Модели — pay-as-you-go
Каждый запрос к нейросети списывается по тарифам моделей в каталоге LLM Mart. Видите расход по командам, ключам и чатам в одном кабинете.
Лимиты до отправки
Задайте бюджеты и потолки на аккаунт — чат не «съест» баланс неожиданно, политики применяются до запроса к модели.
Для ИТ-команды
Установка за несколько минут.
Требования: Docker с Compose v2 — или кластер Kubernetes с Helm 3. Обе команды ставят полный стек с автообновлением; подключение к LLM Mart настроит мастер при первом запуске.
Вариант A — Docker Compose
Установщик и compose с сайта LLM Mart — без GitHub. Скрипт сгенерирует секреты, подтянет образы и поднимет стек с автообновлением.
curl -fsSL https://www.llmmart.ru/dist/llmmart-chat/install.sh | bashВариант B — Kubernetes (Helm)
Тот же стек в вашем кластере — ставится последняя версия. Обновления применяются автоматически по расписанию.
helm install llmmart-chat \
oci://docker.io/kuznetsovyan476/llmmart-chat \
--set autoUpdate.enabled=trueЗатем — подключение к LLM Mart
Откройте чат в браузере: мастер попросит ключ подключения из личного кабинета LLM Mart и сам настроит взаимодействие с платформой. Вручную ничего дополнительно настраивать не нужно.
Опционально: RAG по документам
Ответы по корпоративным документам (rag-api + pgvector). В Docker Compose — команда ниже, в Helm — флаг --set rag.enabled=true.
docker compose --profile rag up -dВопросы ИТ и ИБ
Частые вопросы про внедрение.
Где хранятся данные чатов?
В MongoDB на вашем сервере — она входит в дистрибутив. История, файлы и поисковый индекс не покидают вашу инфраструктуру; бэкапы выполняются вашими штатными средствами.
Что требуется наружу?
Только исходящие подключения к LLM Mart: при первом запуске чат регистрируется в аккаунте компании, дальше — запросы к моделям через платформу. Входящие подключения и сторонняя телеметрия не нужны.
Как обновляться?
Автоматически: образы публикуются с тегом :latest, в Docker Compose watchtower подтягивает их сам, в Kubernetes CronJob перезапускает поды по расписанию. Ручной вариант — docker compose pull и перезапуск, либо helm upgrade.
Что входит в стек?
Чат (веб-интерфейс и API), админ-панель экземпляра, MongoDB, Meilisearch и автообновление. Опционально — RAG-профиль для работы с документами.
Нужны ли ключи OpenAI или других провайдеров?
Нет. Чат сам настраивает взаимодействие с LLM Mart при подключении. Ключи OpenAI и других провайдеров в ваш контур не попадают.
Где взять ключ подключения?
В личном кабинете LLM Mart после регистрации организации. Мастер подключения использует его один раз — дальше чат работает с платформой сам, без ручной настройки.
Нужно ли платить за сам чат?
Нет. Дистрибутив LLM Mart Chat поставляется бесплатно — без лицензии на продукт. Оплата только за использование моделей: списание по токенам с баланса организации в LLM Mart, как при любом запросе через платформу.
Начать
Верните AI-чаты в контур компании.
Разверните LLM Mart Chat на своём сервере за несколько минут — дистрибутив бесплатный, оплата только за токены моделей в LLM Mart.