找回密码
 立即加入
搜索
热搜: 活动 交友 discuz

月之暗面开源 Kimi K3 模型,2.8 万亿参数 [复制链接]

作者 xyfan浏览 66 回复 0
分享一下今天看到的新消息:

官方表示,Kimi K3 是首个达到 2.8 万亿参数规模的开源模型,在过去 12 个月中的 9 个月里,Kimi 模型都保持着开源模型的规模上限。

Kimi 还进一步扩大了 Mixture of Experts(MoE)的稀疏度:结合 Stable LatentMoE 框架后,模型可以在 896 个专家中高效激活 16 个。再加上训练方法和数据配方的优化,这些结构性改进让 Kimi K3 相比 K2 的整体扩展效率提升约 2.5 倍,能更有效地把算力转化为能力。

据介绍,Kimi K3 具备很强的长程编码能力。在极少人工监督的情况下,它可以持续完成长时间工程任务,理解和处理大型代码库,并协调使用终端工具;Kimi K3 也擅长结合软件工程与视觉推理的任务。它能够利用截图和视觉反馈,优化游戏开发、前端和 CAD 等场景。

官方此前表示,虽然 Kimi K3 的整体表现仍落后于最强的闭源模型 Claude Fable 5 和 GPT-5.6 Sol,但在整套评测中展现出前沿水平的能力,并稳定超过了其他所有模型。

(转载本站)
您需要登录后才可以回帖 登录 | 立即加入

本版积分规则

关于我们|Archiver|手机版|小黑屋|塾饭 ( 赣ICP备2022010069号-1|赣公网安备36098302240303 )

GMT+8, 2026-8-15 05:44 , Processed in 0.226333 second(s), 8 queries , Redis On.

Powered by Discuz! X5.0

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表