MoonshotAI: Kimi K2 0905

Kimi K2 0905 є вересневим оновленням Kimi K2 0711. Це великомасштабна мовна модель Mixture-of-Experts (MoE), розроблена Moonshot AI, яка має 1 трильйон загальних параметрів із 32 мільярдами активних на кожен прохід. Вона підтримує виведення в довгому контексті до 256 тис. токенів, розширене з попередніх 128 тис. Це оновлення покращує агентне кодування з вищою точністю та кращою узагальненістю для різних структур, а також вдосконалює фронтенд-кодування, надаючи більш естетичні та функціональні результати для веб, 3D та пов’язаних завдань. Kimi K2 оптимізована для агентних можливостей, включаючи розширене використання інструментів, міркування та синтез коду. Вона демонструє відмінні результати в бенчмарках кодування (LiveCodeBench, SWE-bench), міркування (ZebraLogic, GPQA) та використання інструментів (Tau2, AceBench). Модель навчена за допомогою нового стеку, що включає оптимізатор MuonClip для стабільного великомасштабного навчання MoE.