新浪科技讯 7月23日下午消息，近日，月之暗面企业业务负责人黄震昕回应了外界关于“K3是蒸馏小模型”的猜测，明确否认这一说法，强调K3性能跃升的核心来自底层原创架构创新，而非对现有模型的蒸馏复刻。

　　7月16日，月之暗面Kimi K3发布，该模型以2.8万亿参数规模成为全球最大的开源模型，并凭借在Arena前端代码榜单登顶的表现引发全球AI圈震动。然而，部分业内人士质疑其性能突增可能源于对闭源大模型的蒸馏——即通过“师承”已有大模型输出进行训练，而非独立研发。黄震昕的表态否定了这一质疑，指出K3的竞争力来自三项原创技术：Kimi Delta Attention（KDA）混合线性注意力机制、Attention Residuals（AttnRes）注意力残差技术，以及首次应用于大模型训练的Moon Clip二阶优化器。

　　其中，Moon Clip优化器能在训练数据见顶的背景下，让20T数据跑出40T的训练效果，同等性能下训练成本与算力功耗直接减半。配合896个专家中仅激活16个的极致稀疏MoE架构，K3相较前代K2的整体扩展效率提升约2.5倍。