Meta: Llama Guard 4 12B

Llama Guard 4 — это мультимодальная предварительно обученная модель на основе Llama 4 Scout, настроенная для классификации безопасности контента. Подобно предыдущим версиям, его можно использовать для классификации контента как во входных данных LLM (классификация подсказок), так и в ответах LLM (классификация ответов). Он действует как LLM — генерирует на выходе текст, который указывает, является ли данное приглашение или ответ безопасным или небезопасным, а если небезопасно, он также перечисляет нарушенные категории контента. Llama Guard 4 был адаптирован для защиты от стандартизированной таксономии опасностей MLCommons и предназначен для поддержки мультимодальных возможностей Llama 4. В частности, он сочетает в себе функции предыдущих моделей Llama Guard, обеспечивая модерацию контента на английском и нескольких поддерживаемых языках, а также расширенные возможности обработки смешанных текстовых и графических подсказок, включая несколько изображений. Кроме того, Llama Guard 4 интегрирован в API модерации Llama, расширяя надежную классификацию безопасности для текста и изображений.