Веса Kimi K3 на 2,8 трлн параметров открыты

Moonshot AI выложила на HuggingFace веса Kimi K3, модели Mixture-of-Experts на 2,8 трлн параметров. Компания называет её первой открытой моделью, дошедшей до такого размера, и отмечает, что девять из последних двенадцати месяцев верхнюю границу размеров открытых моделей задавали модели Kimi.
Kimi K3 работает с контекстом в 1 миллион токенов и обрабатывает изображения нативно, без внешних модулей. Архитектура построена на Kimi Delta Attention и Attention Residuals. До этого Moonshot AI приостанавливала приём новых подписок из-за спроса на K3. Публикацию полных весов компания обещала до 27 июля 2026 года, и релиз состоялся в этот срок.
Дальше
Экс-инженер обвинил Anthropic в ослаблении защиты
Бывший инженер Anthropic Ади Барадвадж утверждает, что компания снижала защитные ограничения ради крупных корпоративных контрактов. Заявление прозвучало 26 июля, публичного ответа компании на него не последовало.
Читайте также
- Веса Kimi K3.1 Pro открыты: 104 млрд активных параметров из 2,8 трлн
- Чекпоинт Kivine на LM Arena указал на скорый выход Kimi K3
- Moonshot AI остановила новые подписки на Kimi K3 из-за спроса
- Hy4 от Tencent получил зрение по цене превью, веса позже
- NVIDIA научила модель расшифровки речи слушаться промптов
- Mistral выложила веса Large 4 на 1 трлн параметров
Комментарии
Пока никто не написал. Будьте первым.
Присоединяйтесь к разговору
Войдите, чтобы оставить комментарий. Он появится после модерации.

