Интеграции
LlamaIndex
LlamaIndex с пакетами `llama-index-llms-openai` и `llama-index-embeddings-openai`: chat и embeddings через `api_base`.
Что нужно
- API-ключ
sk-…— создание ключа - Base URL:
https://www.llmmart.ru/api/v1 - Slug модели из каталога
Протокол
OpenAI-совместимый: https://www.llmmart.ru/api/v1.
Установка
pip install llama-index-llms-openai llama-index-embeddings-openaiChat
from llama_index.llms.openai import OpenAI
llm = OpenAI(
model="gpt-4o-mini",
api_key="sk-…",
api_base="https://www.llmmart.ru/api/v1",
)
response = llm.complete("Скажи одним предложением, что такое LLM Mart.")
print(str(response))Embeddings
from llama_index.embeddings.openai import OpenAIEmbedding
embed_model = OpenAIEmbedding(
model="text-embedding-3-small",
api_key="sk-…",
api_base="https://www.llmmart.ru/api/v1",
)
vector = embed_model.get_text_embedding("hello world")
print(len(vector))Типичные ошибки
| Симптом | Что проверить |
|---|---|
| 401 | ключ sk-…, не токен кабинета |
| 404 model_not_found | slug и включение модели |
| Неверный endpoint | api_base с /v1 |
Проверено: 2026-09-01 по документации LlamaIndex OpenAI.