Kimi首个万亿参数模型开源!免费可用超强Agent推
智东西7月12日报道,昨夜,国内大模型独角兽月之暗面发布并开源了其最新一代MoE架构基础模型Kimi K2,总参数量达到1万亿(1T),激活参数为32B。Kimi K2已在Kimi Web端和App端中可用。
Kimi K2系是月之暗面首款开源发布的旗舰模型,在SWE Bench Verified(编程)、Tau2(智能体)、AceBench(工具调用)这三项基准测试中,这一模型取得开源模型中的SOTA成绩。
Kimi K2在预训练阶段使用了“MuonClip”优化器实现万亿参数模型的训练。这一优化器能提高Token利用效率,缓解高质量人类数据的短缺问题。月之暗面还应用了大规模Agentic Tool Use数据合成和引入自我评价机制的通用强化学习等技术。
Kimi K2系列中的两个模型版本现已开源,包括未经过指令微调的基础预训练模型Kimi-K2-Base和通用指令微调版本Kimi-K2-Instruct(非思考模型)。前者适合科研与自定义场景,后者则可用于大多数问答与Agent任务。
根据月之暗面博客文章,在前端开发任务中,Kimi K2能生成有设计感与视觉表现力的代码,支持粒子系统、可视化和3D场景等表现形式。官方Demo中,Kimi K2开发了一个支持昼夜循环的山川峡谷3D景观:
最终,Kimi K2交付的网页渲染效果并未如官方Demo中那般逼真,交互性和功能丰富度也略逊一筹。
在难度较低的个人网站开发任务上,Kimi K2展现出一定规划能力。在未收到明确指示的情况下,Kimi K2主动梳理了网站的目录结构,打造出的网站可扩展性更好。
就智东西进行的个人网站开发测试而言,Kimi K2相较Kimi K1.5的UI审美水平进步有限。
同样的任务交由DeepSeek-V3-0324进行处理,最终生成的结果如下:
月之暗面称,Kimi K2现具备复杂指令解析能力,可将需求自动拆解为一系列格式规范、可直接执行的ToolCall结构。
Agent能力已可通过API使用,更多工具能力即将在Kimi上线。在月之暗面内部测试环境中的实际演示里,Kimi K2展现出一定体验Agentic能力。
比如,将13万行的原始数据丢给Kimi K2,它可以帮用户分析远程办公比例对薪资的影响,分析显著差异,自动生成统计图表与回归模型解读,并用统一色调做出小提琴图(violin plot) 、箱线图(box plot)、散点图(scatter plot)等专业图表,整理成报告。
再比如,如果用户是Coldplay粉丝,Kimi K2可以帮忙制定今年的追星计划,完成演唱会所在城市的机酒与旅游规划,并且生成日历,再用html概括完整行程规划并发送邮件。
Kimi K2还拥有了更强的风格化写作能力。官方提供的Demo中,Kimi K2模仿了苹果广告文案风格:
此外,Kimi K2在通用知识推理、数学、规划等任务中的表现亦有提升,比数字大小的题目已经难不住Kimi K2了。
根据月之暗面博客文章,Kimi K2用MuonClip优化器支撑万亿参数模型训练,提升token利用效率。结合大规模Agentic数据合成与通用强化学习,这一模型的通用智能能力获得提升。
为了缓解大规模训练中的attention logits偏大问题,月之暗面抛弃了传统的Adam优化器,提出MuonClip优化器,并将其扩展到万亿参数规模,提升了训练稳定性和token使用效率。Kimi K2完成了15.5T token的训练,全程无loss spike。
月之暗面还构建了可大规模生成多轮工具使用场景的合成pipeline,其大规模Agentic Tool Use数据合成可覆盖数百领域、数千工具,样本由LLM评估筛选后用于训练。
Kimi K2在可验证任务上(代码、数学)使用了强化学习,还通过引入自我评价机制(self-judging),解决了不可验证任务的奖励稀缺问题,实现通用强化学习,提升泛化任务表现。
目前,Kimi K2尚不支持视觉理解和思考能力,月之暗面称这些能力将在未来陆续加入。
(本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。)
原标题:《Kimi首个万亿参数模型开源!免费可用,超强Agent推理,附实测体验》
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。
猜你喜欢
- 05-29AICoin韩国一住宅区发生军用炮
- 05-27AICoin新发现4668处!四川文物地
- 05-13AICoinBitgetWallet正式上线全新行
- 05-12AICoin凌云光获多家机构调研 “
- 05-13AICoin2025武汉马拉松起点和终点
- 03-10AICoin楼宇解码器跳线图 MBA智库
- 06-20AICoin线图图标
- 01-01AICoinPython绘制线图之pltplot()的
- 05-12AICoin重庆至昆明高铁线路图与