Открытые LLM: Llama, Gemma и GPT-OSS — обзор моделей и где их запустить
Открытые LLM это модели с доступными весами: Llama от Meta, Gemma от Google, GPT-OSS от OpenAI. Их можно запустить на своём железе или вызвать по API, как любую другую модель. В каталоге LLM Mart они идут рядом с закрытыми и стоят дешевле, но уступают флагманам на сложных задачах.
Содержание
Что значит «открытая» модель
Открытая модель это модель, веса которой доступны для скачивания. Их можно запустить у себя, дообучить или встроить в закрытый контур. Это не то же самое, что бесплатно: вычисления стоят денег, и запуск на своём железе окупается только при стабильной нагрузке.
Llama выпускает Meta, Gemma Google, GPT-OSS OpenAI. У всех трёх есть варианты разного размера, и именно размер определяет качество и стоимость инференса.
Зачем их берут
Первая причина связана с контролем данных. Если запросы нельзя отправлять внешним провайдерам, открытые веса дают возможность держать модель внутри периметра. Это дороже в эксплуатации, но иногда единственный вариант.
Вторая: цена. На типовых задачах открытая модель среднего размера даёт достаточное качество за меньшие деньги, чем флагман. Для массовой разметки и извлечения данных этого хватает.
Третья: дообучение. Закрытую модель дообучают только через сервис вендора, и веса остаются у него. Открытую можно дообучить на своём железе.
Что есть в каталоге
Llama 4 представлена в вариантах Maverick и Scout. Maverick крупнее и держит более длинное окно, Scout дешевле. Gemma 4 от Google есть в вариантах 26B A4B и 31B, окно у обеих 262K токенов. GPT-OSS от OpenAI есть в двух размерах: 120B и 20B.
| Модель | Контекст | Ввод / 1M | Вывод / 1M |
|---|---|---|---|
| Llama 4 Maverick | 524K | 36,36 ₽ | 117,66 ₽ |
| Gemma 4 31B | 262K | 24,04 ₽ | 57,03 ₽ |
| GPT-OSS 120B | 131K | 17,42 ₽ | 54,73 ₽ |
| GPT-OSS 20B | 131K | 8,89 ₽ | 19,77 ₽ |
Как получить ключ Llama API
Платного Llama API от Meta для России нет. Старый адрес Llama API для разработчиков теперь ведёт на Meta Model API, а эта платформа запускает модели Muse, не Llama. Россия к тому же входит в список территорий, где Model API не работает.
Ключ LLM Mart подходит ко всем моделям Llama в каталоге: Llama 4 Maverick, Llama 4 Scout и версиям Llama 3. Выпустите ключ sk-… в кабинете, укажите адрес https://llmmart.ru/api/v1 и слаг вроде meta-llama/llama-4-maverick. Оплата в рублях и подключение описаны на странице ключ Llama API из России.
Где запустить
Два пути. Первый: своё железо, когда данные не должны покидать периметр. Нужны GPU, обслуживание и человек, который этим занимается. Второй: вызов по API через LLM Mart, когда хочется без инфраструктуры получить ту же модель и оплачивать по факту токенов.
Для большинства продуктов второй путь дешевле на старте: нет капитальных расходов, а счёт растёт вместе с нагрузкой. Свой кластер выигрывает при устойчивом объёме, когда стоимость часа GPU становится ниже цены токенов. Если веса нужно держать у себя, разберите, как запустить Llama локально.
Как выбрать
Массовая разметка и извлечение данных: GPT-OSS 20B или Gemma 4. Универсальные продуктовые задачи: Llama 4 Maverick или GPT-OSS 120B. Требования к контуру: любая открытая модель на своём железе.
Модели с ценами и фильтрами лежат в каталоге, а инструкция по вызову текстовых моделей есть в документации.
Частые вопросы
Открытая модель значит бесплатная?
Нет. Открытые веса можно скачать, но инференс требует вычислений: либо своих GPU, либо оплаты чужого сервиса. В каталоге LLM Mart открытые модели тарифицируются по токенам как все остальные, просто обычно стоят дешевле закрытых флагманов. Бесплатным остаётся только сам файл весов.
Чем Llama отличается от GPT-OSS и Gemma?
Все три открытые, но от разных разработчиков: Llama выпускает Meta, Gemma Google, GPT-OSS OpenAI. Отличаются размеры, контекст и качество на конкретных языках. В каталоге LLM Mart они доступны одним ключом, поэтому сравнение на своих задачах занимает минуты и не требует разворачивать инфраструктуру.
Можно ли запустить открытую модель на своём компьютере?
Модели до нескольких миллиардов параметров запускаются на обычном компьютере через локальные раннеры, но качество будет скромным. Модели вроде GPT-OSS 120B требуют серьёзных GPU. Через LLM Mart та же модель вызывается по API без железа и оплачивается по факту токенов, что на старте обычно дешевле.
Какая открытая модель самая дешёвая?
Из моделей таблицы дешевле всего GPT-OSS 20B: ввод стоит 8,77 ₽ за 1M токенов. Ещё дешевле компактные Llama 3.2 1B и 3B, но они слабее на сложных задачах. Для разметки и извлечения полей подходят также Gemma 4 26B A4B и batch-версии GPT-OSS в каталоге LLM Mart.
Как получить API-ключ Llama?
У Meta нет платного API к Llama для России: Meta Model API работает с моделями Muse, а Россия входит в его список запрещённых территорий. Ключ к моделям Llama выпускается в кабинете LLM Mart, оплата в рублях картой или по счёту. Ввод Llama 4 Maverick стоит 36,36 ₽ за 1M токенов, Llama 4 Scout дешевле.
Комментарии 0