Fine-tuning LLM: что такое дообучение и когда оно нужно вместо промптов и RAG
Fine-tuning это дообучение модели на своих данных: веса подстраиваются, и модель меняет поведение. Он нужен там, где важно не знание фактов, а устойчивый навык или строгий формат. Для базы знаний дешевле и быстрее RAG, для разовых задач достаточно промпта.
Что такое fine-tuning
Fine-tuning это обучение модели на ваших примерах. Модель видит пары «запрос-ответ» и корректирует веса так, чтобы на похожих запросах отвечать в нужном стиле и формате. После обучения она ведёт себя иначе без длинных инструкций в промпте.
Ключевое отличие от RAG: при дообучении знания впечатываются в модель, при RAG они подставляются в запрос из внешней базы. Первое меняет навык, второе меняет доступные факты.
Что такое LoRA
Полное дообучение флагмана требует огромных мощностей, поэтому на практике используют LoRA. Это надстройка: к модели добавляются небольшие матрицы, которые и обучаются, а исходные веса остаются замороженными.
Выигрыш в стоимости и в хранении. Обучаемых параметров в тысячи раз меньше, файл результата занимает мегабайты вместо десятков гигабайт, а базовая модель остаётся общей. Переключаться между несколькими LoRA можно на одном сервере.
Когда дообучение оправдано
Первое: строгий формат вывода. Если нужно, чтобы модель всегда отвечала в определённой структуре, дообучение на тысяче примеров надёжнее промпта.
Второе: специфический стиль. Тон, лексика, манера изложения в брендовых коммуникациях поддаются дообучению лучше, чем описанию в инструкции.
Третье: узкая классификация. Модель, обученная на ваших категориях, работает точнее универсальной с подробным промптом, и её можно запускать дешевле.
Промпт
Сначала попробуйте решить задачу промптом с примерами: это бесплатно и занимает часы.
RAG
Если не хватает знаний из базы, подключите поиск по документам вместо обучения.
Датасет
Для дообучения соберите хотя бы несколько сотен согласованных пар запрос-ответ.
Оценка
Сравните дообученную модель с базовой на отложенной выборке: без этого шага дообучение бессмысленно.
Сколько это стоит
Дообучение стоит не только денег на вычисления, но и времени людей. Нужен датасет с согласованными ответами, разметка, проверка качества и повторное обучение при изменении задачи. Ошибка в разметке переносится в модель и проявляется на пользователях.
Второй расход: сопровождение. Модель нужно где-то запускать, обновлять при выходе новой базовой версии и переобучать, когда меняются данные или требования.
Что выбрать
Порядок проверки от простого к сложному. Сначала промпт с форматом и примерами: часто этого достаточно. Затем RAG, если не хватает фактов из базы. И только потом дообучение, если нужен устойчивый навык или строгий формат.
Сравнивать варианты лучше на одном ключе каталога, чтобы не тратить время на отдельные аккаунты. Про RAG есть отдельная статья про поиск по базе, про структуру запросов — про промпты, а открытые модели для дообучения собраны в каталоге.
Частые вопросы
Что такое fine-tuning простыми словами?
Это дообучение модели на ваших примерах: она корректирует веса и начинает отвечать в нужном стиле или формате без длинных инструкций. В отличие от RAG, где документы подставляются в запрос, здесь меняется сама модель. Для фактов и базы знаний достаточно RAG, а дообучение нужно для навыка и формата.
Что такое LoRA и зачем она нужна?
LoRA это способ дообучения через небольшую надстройку: обучаются дополнительные матрицы, а веса базовой модели остаются замороженными. Файл результата занимает мегабайты вместо десятков гигабайт, а обучаемых параметров в тысячи раз меньше. Поэтому LoRA дешевле полного дообучения и удобнее в сопровождении.
Что лучше: fine-tuning или RAG?
Для базы знаний и меняющихся фактов подходит RAG: документы обновляются за минуты без переобучения. Дообучение нужно там, где важен устойчивый стиль, строгий формат или узкая классификация. Часто их совмещают: модель дообучена под формат ответа, а факты подставляются из поиска по каталогу LLM Mart.
Сколько данных нужно для дообучения?
Зависит от задачи: для формата ответа часто хватает нескольких сотен согласованных примеров, для узкой классификации нужны тысячи. Важнее качество разметки, чем объём: ошибки в датасете переносятся в модель. Обязательно оставьте отложенную выборку, иначе сравнить дообученную модель с базовой не получится.
Можно ли дообучить закрытую модель по API?
Обычно нет: провайдеры редко дают дообучение флагманов, а если дают, то с ограничениями по данным и объёму. Поэтому на практике дообучают открытые модели вроде Llama, Gemma или GPT-OSS, а вызывают их локально или по API каталога LLM Mart. Для закрытых моделей остаются промпты и RAG.
Комментарии 0