Moonshot AI发布了Kimi K3的完整权重和技术报告，这是其最先进的人工智能模型。该举措扩大了技术社区对系统架构的访问。
权重已发布在Hugging Face上，而技术文档则已传至公司在GitHub上的官方存储库。代码和权重在Kimi K3许可下提供。
此次公布符合Moonshot AI在7月初公布的时间表。当天，公司表示完整文件和额外规格将于7月27日之前发布。
Kimi K3汇聚了2,8万亿个参数，尽管推理期间仅激活1040亿个。这一特性旨在在计算能力与任务处理效率之间取得平衡。
该模型采用专家混合架构（Mixture of Experts，MoE）。共有896名可用专家，每次执行会选择16名专家来处理每个token。
另一个亮点是超过1百万个tokens的更长上下文窗口。该功能使得能够在一次交互中处理大量信息，从而拓展人工智能应用的可能性。
技术报告还包含关于Kimi注意力（Atenção Delta de Kimi）、注意力残差以及原生量化系统的细节。据Moonshot AI称，这些架构改动使可扩展性效率相较于Kimi K2提升约2,5倍。
随着公开文件的提供，开发者可以下载并使用Transformers、vLLM和SGLang等工具来部署Kimi K3。此可用性有助于测试、研究以及定制化应用。
由于模型体量较大，Moonshot AI建议使用配备大型超节点（supernós）的配置。所需的基础设施是希望在本地运行Kimi K3的团队所面临的主要技术要点之一。
权重的发布也使得研究人员可以直接分析模型结构，而开发者则可以在不同计算环境和人工智能应用中评估其性能。
