Moonshot AI подтвердила, что полные веса Kimi K3 будут опубликованы уже завтра, 27 июля. В официальном блоге и документации компания пишет, что модель уже доступна в веб-сервисах, Kimi Work, Kimi Code и через API, а открытый релиз весов запланирован на ближайшее воскресенье.
Скрытый текст
Kimi K3 — это флагманская модель Moonshot AI с 2,8 трлн параметров и контекстным окном 1 млн токенов. Компания называет ее первой open-source-моделью в «3-trillion-class» и описывает архитектуру как сочетание Kimi Delta Attention (KDA), Attention Residuals (AttnRes) и разреженного Mixture of Experts с активацией 16 из 896 экспертов. По заявлению Moonshot AI, это дает примерно 2,5-кратный прирост эффективности масштабирования по сравнению с Kimi K2.
Kimi K3 позиционируется как модель для длительного кодинга, knowledge work и reasoning-сценариев. В блоге Moonshot AI также отмечает, что модель уже используется в продуктах компании и что для полноценного запуска по экосистеме команда координируется с inference-партнерами и open-source maintainers.
Параллельно на Hugging Face действительно появилась страница moonshotai/Kimi-K3 с пометкой об upcoming release, что согласуется с заявленным сроком публикации весов. На это также указывал сотрудник Hugging Face в публичном посте, где фигурировала ссылка на upcoming release.
Недавно Moonshot временно ограничивала новые подписки, чтобы не перегружать инфраструктуру. Теперь же компания делает следующий шаг — переводит модель из режима доступа через сервисы в опенсорс.