Интеграции

LangChain

LangChain через пакет `langchain-openai`: Chat Completions и embeddings на OpenAI-совместимом `base_url`.

Что нужно

Протокол

OpenAI-совместимый: https://www.llmmart.ru/api/v1.

Установка

pip install langchain-openai

Chat

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    api_key="sk-…",
    base_url="https://www.llmmart.ru/api/v1",
    model="gpt-4o-mini",
)

response = llm.invoke("Скажи одним предложением, что такое LLM Mart.")
print(response.content)

Embeddings

from langchain_openai import OpenAIEmbeddings

embeddings = OpenAIEmbeddings(
    api_key="sk-…",
    base_url="https://www.llmmart.ru/api/v1",
    model="text-embedding-3-small",
)

vector = embeddings.embed_query("hello world")
print(len(vector))

Типичные ошибки

СимптомЧто проверить
401ключ sk-…, не токен кабинета
404 model_not_foundslug и включение модели
Connection errorbase_url с /v1, не без него

Проверено: 2026-09-01 по документации LangChain OpenAI.

Что дальше