MoonshotAI: Kimi K2 0711

Kimi K2 Instruct — это крупномасштабная языковая модель Mixture-of-Experts (MoE), разработанная Moonshot AI, с общим количеством 1 триллион параметров и 32 миллиардами активных на один прямой проход. Он оптимизирован для агентских возможностей, включая использование расширенных инструментов, рассуждение и синтез кода. Kimi K2 превосходно справляется с широким спектром тестов, особенно в задачах кодирования (LiveCodeBench, SWE-bench), рассуждений (ZebraLogic, GPQA) и использования инструментов (Tau2, AceBench). Он поддерживает вывод длинного контекста до 128 тыс. токенов и разработан с использованием нового стека обучения, который включает оптимизатор MuonClip для стабильного крупномасштабного обучения MoE.