MoonshotAI: Kimi K2 0711

Kimi K2 Instruct — це масштабна мовна модель Mixture-of-Experts (MoE), розроблена Moonshot AI, яка має 1 трильйон загальних параметрів, з яких 32 мільярди активні за один прямий прохід. Вона оптимізована для агентних можливостей, включаючи розширене використання інструментів, міркування та синтез коду. Kimi K2 демонструє відмінні результати у широкому спектрі бенчмарків, особливо у задачах кодування (LiveCodeBench, SWE-bench), міркування (ZebraLogic, GPQA) та використання інструментів (Tau2, AceBench). Вона підтримує висновок із довгим контекстом до 128 тисяч токенів і розроблена з використанням нового навчального стеку, що включає оптимізатор MuonClip для стабільного великомасштабного навчання MoE.