Эмбеддинги: что это такое и как нейросети превращают текст в векторы
Эмбеддинг это вектор чисел, которым модель описывает смысл текста. Близкие по смыслу фразы получают близкие векторы, поэтому поиск по смыслу работает без совпадения слов. В каталоге LLM Mart есть несколько моделей эмбеддингов от Cohere, Qwen, Sber и Яндекса, и все они вызываются тем же ключом.
Содержание
Что такое эмбеддинг простыми словами
Эмбеддинг это вектор: длинный список чисел, который модель ставит в соответствие тексту. У фразы «как оформить возврат» и «вернуть товар в магазин» нет общих слов, но векторы у них близкие, потому что модель научилась кодировать смысл, а не буквы.
Сравнивают векторы через косинус угла между ними: чем ближе значение к единице, тем ближе смысл. Отсюда растёт вся механика семантического поиска и рекомендаций.
Зачем это нужно
Первая задача — поиск по смыслу. Классический поиск по словам промахивается, когда пользователь пишет «не приходит письмо с паролем», а в документации сказано «восстановление доступа». Векторный поиск находит нужный раздел, потому что сравнивает смысл.
Вторая задача — RAG. Перед запросом к модели система находит в базе знаний фрагменты, близкие к вопросу, и подставляет их в контекст. Без эмбеддингов не работает ни один нормальный поиск по внутренней документации.
Третья — кластеризация и разметка. Тысячи обращений в поддержку можно сгруппировать по смыслу и увидеть, о чём люди пишут чаще, не читая их вручную.
Какие модели есть в каталоге
Модели эмбеддингов отличаются размерностью вектора, длиной входа и языками. Cohere Embed 5 выпускается в вариантах Pro и Fast: оба принимают до 128 000 токенов и хорошо работают с русским. Qwen3 Embedding дешевле и подходит для больших объёмов. У Sber есть Giga Embeddings, у Яндекса — отдельные модели для документов и для запросов.
| Модель | Контекст | Ввод / 1M |
|---|---|---|
| Cohere Embed 5 Pro | 128K | 14,02 ₽ |
| Cohere Embed 5 Fast | 128K | 9,35 ₽ |
| Qwen3 Embedding 0.6B | 33K | 1,85 ₽ |
| Giga Embeddings Instruct 3B | 8K | 26,41 ₽ |
Как получить вектор по API
Маршрут POST /embeddings совместим с OpenAI, поэтому подходит обычный SDK. Ответ содержит массив чисел, который складывается в базу векторов.
from openai import OpenAI
client = OpenAI(
api_key=os.environ["LLM_MART_API_KEY"],
base_url="https://llmmart.ru/api/v1",
)
response = client.embeddings.create(
model="cohere/embed-5-pro",
input=["как оформить возврат товара", "вернуть покупку в магазин"],
)
print(len(response.data[0].embedding))Модель
Выберите модель эмбеддингов из каталога и зафиксируйте её для проекта.
Индекс
Постройте векторы для всех документов базы и сложите их в хранилище векторов.
Запрос
Векторизуйте вопрос пользователя той же моделью и найдите ближайшие документы.
Контекст
Подставьте найденные фрагменты в промпт модели генерации вместе с вопросом.
Сколько это стоит
Цена считается по входным токенам, выхода у эмбеддингов нет. Поэтому стоимость индекса зависит от объёма базы, а стоимость запроса от длины вопроса. Для базы в миллион слов разовый индекс обходится дешевле, чем один длинный диалог с флагманской моделью.
Обновлять индекс целиком при каждом изменении не нужно: достаточно пересчитать векторы новых и изменённых документов. Механика вызова описана в документации по эмбеддингам, а модели с фильтрами лежат в каталоге.
Частые вопросы
Что такое эмбеддинг простыми словами?
Эмбеддинг это набор чисел, который описывает смысл текста: у близких по смыслу фраз числа получаются похожими. По этому набору считают близость, а не читают его глазами. Модели эмбеддингов в каталоге LLM Mart возвращают такой вектор по запросу на /embeddings, и стоят они заметно дешевле генерации текста.
Чем отличаются модели эмбеддингов друг от друга?
Размерностью вектора, длиной входа и качеством на конкретном языке. Cohere Embed 5 принимает до 128 000 токенов и уверенно работает с русским, Qwen3 Embedding дешевле и подходит для больших объёмов, у Яндекса есть отдельные модели для документов и запросов. Главное правило: индекс и поиск должны использовать одну модель из каталога LLM Mart.
Сколько стоит получить эмбеддинги?
Платите только за входные токены, выхода у модели нет, поэтому счёт зависит от объёма текста. Цена за 1M токенов указана в каталоге LLM Mart и у дешёвых моделей измеряется копейками. Разовая индексация базы в миллион слов обходится дешевле одного длинного диалога с флагманской моделью генерации.
Зачем эмбеддинги, если есть полнотекстовый поиск?
Полнотекстовый поиск находит совпадения слов и промахивается, когда пользователь формулирует запрос иначе, чем написано в документации. Векторный поиск сравнивает смысл, поэтому находит нужный раздел по перифразу. На практике их совмещают: сначала ищут по словам, затем дополняют результатом по векторам из каталога LLM Mart, и точность растёт.
Можно ли обойтись без эмбеддингов в RAG?
Можно, если база маленькая и помещается в контекст модели целиком: тогда документы подаются прямо в запрос. На объёмах в сотни страниц это дорого и упирается в окно контекста. Эмбеддинги из каталога LLM Mart позволяют отбирать десяток релевантных фрагментов вместо всей базы, и счёт за запрос падает в разы.
Комментарии 0