MoonshotAI: Kimi K2 0905

Kimi K2 0905 — это сентябрьское обновление Kimi K2 0711. Это крупномасштабная языковая модель Mixture-of-Experts (MoE), разработанная Moonshot AI, с общим количеством 1 триллион параметров и 32 миллиардами активных на один прямой проход. Он поддерживает вывод длинного контекста до 256 тысяч токенов, расширенный по сравнению с предыдущими 128 тысячами. Это обновление повышает точность агентного кодирования и обеспечивает лучшее обобщение по шаблонам, а также расширяет возможности внешнего кодирования за счет более эстетичных и функциональных результатов для веб-, 3D- и смежных задач. Kimi K2 оптимизирован для агентских возможностей, включая использование расширенных инструментов, рассуждение и синтез кода. Он превосходно справляется с тестами кодирования (LiveCodeBench, SWE-bench), рассуждений (ZebraLogic, GPQA) и использования инструментов (Tau2, AceBench). Модель обучается с помощью нового стека, включающего оптимизатор MuonClip, для стабильного крупномасштабного обучения MoE.