Kimi K3

Kimi K3 — модель китайской Moonshot AI, представленная 16 июля 2026 года. Компания называет её первой открытой моделью «3T-класса»: 2,8 триллиона параметров — рекорд среди открытых.

Архитектура — разреженная MoE: из 896 экспертов на каждый токен активируется всего 16, так что реально работает малая часть этих триллионов. Контекст — 1 млн токенов, зрение нативное.

Две технические новинки, которыми Moonshot хвалится отдельно. Kimi Delta Attention (KDA) ускоряет генерацию до 6,3 раза на контексте в миллион токенов — прямой ответ на главную боль длинных окон. Attention Residuals (AttnRes) повышает эффективность обучения примерно на 25% при удорожании менее 2%. Вместе с разреженностью это, по заявлению компании, даёт примерно в 2,5 раза лучшее масштабирование, чем у K2.

Две важные оговорки. Первая: на момент анонса веса ещё не выложены — Moonshot обещает открыть их 27 июля 2026. Вторая: компания сама признаёт, что по общей производительности K3 всё ещё уступает Claude Fable 5 и GPT-5.6 Sol — рекорд тут по размеру и открытости, а не по интеллекту. Цена: $0,30 за млн входных токенов при попадании в кэш, $3 без кэша, $15 за млн выходных.