Заголовки ответа
Какая площадка ответила, в каком кванте и насколько можно верить форме strict-ответа.
Все три заголовка приходят до тела, поэтому работают и в обычном ответе, и в потоке SSE. В JSON тела шлюз их не дублирует: тело остаётся ответом поставщика без наших полей.
| Заголовок | Значения | Когда приходит |
|---|---|---|
X-LLMMart-Host | слаг площадки, например z-ai | любой успешный ответ модели |
X-LLMMart-Quantization | fp8, int4, bf16 … | когда у площадки указан квант |
X-LLMMart-Structured | verified / unverified | только на strict-запрос |
Площадка и квант
X-LLMMart-Host: z-ai
X-LLMMart-Quantization: fp8X-LLMMart-Host — это та же площадка, что в блоке «Доступные площадки» на странице модели, поэтому её можно подставить в provider.only при следующем запросе. X-LLMMart-Quantization — формат весов, который заявила площадка в прайсе. Если метки нет, заголовка тоже нет.
Заявленный квант платформа извне не измеряет: это то, что сказала площадка.
Strict-ответ
X-LLMMart-Structured приходит, когда в запросе был response_format.json_schema.strict: true или text.format.strict: true.
| Значение | Что значит |
|---|---|
verified | у площадки есть наша собственная история успешных strict-ответов, и отказов меньше, чем успехов |
unverified | истории нет или она плохая: форма ответа не подтверждена |
Платформа не валидирует полную JSON Schema и не перезапускает генерацию за свой счёт. Проверяется три вещи: пустой ответ при обрезании по лимиту токенов, невалидный JSON и несовпадение типа верхнего уровня со схемой (схема просит объект — пришёл массив).
Если нужен именно проверенный хост, закрепите его через provider.only — выбор поставщика и площадки. Хосты, у которых strict систематически ломается, уходят в конец очереди, но не выбрасываются: unverified говорит, что гарантии нет, а verified — что она есть.
Где заголовков нет
POST /batch— результат по каждому запросу лежит в JSON-элементе, заголовки HTTP к нему не относятся.- Ответы с ошибкой: обычно заголовков раскрытия нет — они описывают успешный ответ модели, а у ошибки своя форма — ошибки. Исключение — проброс ошибки поставщика на части маршрутов, там заголовки называют площадку, к которой шёл запрос.