Open WebUI
Self-hosted чат. LLM Mart — отдельное OpenAI API connection. Список моделей берётся с `GET /v1/models`; при необходимости id добавляют в allowlist вручную.
Что нужно
- Open WebUI, вход администратора
- Ключ
sk-…— создание ключа - Исходящий доступ контейнера к
https://www.llmmart.ru/
Протокол
OpenAI-совместимый. URL: https://www.llmmart.ru/api/v1.
Шаги
- Профиль → Admin → Settings → Connections.
- Блок OpenAI API → Add Connection.
- URL:
https://www.llmmart.ru/api/v1. - API Key:
sk-…. - Verify Connection, затем Save.
- Если пикер пустой — в Model IDs (Filter) добавьте slug из каталога по одному (
gpt-4o-mini,anthropic/claude-sonnet-5, …) и сохраните снова. - В чате выберите модель с этого подключения. Prefix ID задайте, если id пересекаются с другим провайдером.
Один connection покрывает все модели, которые отдаёт ключ на /v1/models. Узкий набор — allowlist в Filter или ограничение моделей на ключе в кабинете.
Для RAG добавьте embedding-модель (она должна быть на ключе). Для TTS/STT/картинок — соответствующие маршруты LLM Mart и отдельные модели в каталоге.
Типичные ошибки
| Симптом | Что проверить |
|---|---|
| 401 | ключ sk-… |
| Моделей нет | Verify; Filter со slug; ключ видит модели в кабинете |
| 404 | URL со /v1 |
| Запросы в OpenAI | URL connection, не дефолт https://api.openai.com/v1 |
Проверено: 2026-09-01 по OpenAI-Compatible в Open WebUI.
Что дальше
n8n
Автоматизация с AI-кластером. LLM Mart подключается как OpenAI-совместимый шлюз: credential типа OpenAI с полем Base URL и узел OpenAI Chat Model. Не берите узе
LiteLLM
Прокси и Python SDK с единым интерфейсом. LLM Mart — OpenAI-совместимый backend: префикс `openai/` обязателен, иначе LiteLLM решит, что это вендор из своего кат