2026 年 10 月 31 日,面壁智能 ForgeKernel 在 B200 上跑了 22.5 小时的一场实测

518 微秒对 472 微秒。

差了 46 微秒,9.8%。这一截是 10 月 31 日从那场直播里抠出来的:一个 AI 智能体在英伟达 B200 上,把 DeepSeek 开源的 FlashMLA 注意力算子跑得更快了。人类在 22.5 小时里写了 0 行代码。

它叫 ForgeKernel,出自面壁智能智能进化实验室,已联合 OpenBMB 社区开源。值得抄走的不是 9.8%,是它到底被喂了什么。

22.5 小时,42 轮,人类一行代码没写

FlashMLA 不是小角色。它是 DeepSeek 开源的注意力核心算子库。10 月 20 日开源的推理框架 DeepInfer,也把它集成了进去。

这个库出自业内公认 Infra 最强的团队之手,代表人类手写算子的巅峰。

要超越的对象就在这儿。

直播从白天跑到第二天上午九点多。中间发生了这些:

第一版通过了正确性检查,耗时 1834 微秒。能跑,但慢。

不到 4 小时,压到 593 微秒,降幅约 67.6%,从零逼近当前最佳实现的九成。

第 7 小时前后出了一次核心结构上的突破。它先超过了自己的上一代版本,随后第一次超过 FlashMLA。

最后停在 472 微秒,FlashMLA 是 518 微秒。

全程 42 轮迭代,留下 32 个版本,用掉 1 张 B200 和 22 个 GPU 小时。

有一段值得单独拎出来。跑到后期,它自己发现 Q 的突发加载在和 KV 数据搬运争抢访存资源。于是它主动控制 Q 的请求节奏,又压下 2.4% 的耗时。

没人告诉它去查访存冲突。这种判断过去属于资深工程师的活。

图:机房走廊两侧排着机柜,指示灯一列列亮着
图:机房走廊两侧排着机柜,指示灯一列列亮着

它拿到的东西只有两样

整个过程中,AI 手里的信息只有算子的数学定义,和目标硬件约束。

没有源码。没有论文。

你可以对照一下自己平时怎么用 AI 写代码。

需求写成一大段,角色、步骤、输出格式全列上,生怕它漏了什么。这次的做法是反过来的。

只给终点,不给路。

只给目标,10 个算子赢 8 个

这条路不是临时起意。10 月 27 日,ForgeKernel 团队与清华大学等机构在 arXiv 发了一篇论文。标题直译过来是《只给一个目标,AI 的基线就高过专家算子》。

做法很干脆:只给模型一个优化目标,不提供任何算子知识,也不规定固定流程。

结果在 B200 上,模型在 10 个算子中有 8 个跑赢了人类维护的开源库。

他们还做了另一组对照。同一个模型,套上 MIT 韩松团队参与开发的专用框架 KDA-0.5,在单配置优化任务上的平均成绩,反而只有 JustGoal 的 0.95 倍。

专家预先写好的经验和流程,在这里起了负作用。

图:电路板上的走线与贴片元件,丝印是元件编号
图:电路板上的走线与贴片元件,丝印是元件编号

撞墙的地方:开局几步就把路走死

论文里还有一句,很多人会跳过,我觉得它比 8 胜 2 负更重要。

模型擅长调细节,却难以独立设计好整体架构。它常常在开局几次尝试中就把路线定死,之后只能在原有架构里微调。

前面那 42 轮,那些漂亮的数字,都建立在一条开局就选定的路上。路选对了,后面全是加速;路选错了,42 轮就是 42 次原地打磨。

你自己应该也遇到过。让 AI 写一整个模块,它搭的骨架你后面怎么改都别扭。问题不在细节,在骨架。

图:乡村公路在前方分出一条岔路,路边立着指路牌
图:乡村公路在前方分出一条岔路,路边立着指路牌

补的三块,都是结构

ForgeKernel 之所以要存在,就是因为只给目标不够。它在 JustGoal 基础上加了三个东西。

第一,把架构设计和实现能力分开,把架构设计抽象成里程碑,把问题拆开。先定骨架,再让它动手。

第二,把每一条实测验证过的硬件经验存进知识库。这些经验是测出来的,不是猜的,换一个算子还能接着用。

第三,把自己写出的最好版本当作下一轮的对手,一轮轮自进化。它不跟人类比,它跟昨天的自己比。

后两条其实很像人做工程的方式:经验沉淀下来,标准不断提高。区别是它一天能走完 42 轮。

效果放到更多算子上:29 项对比中有 24 项打平或超越专家实现;三套领先 Agent 系统公开的 7 个最强算子,也全部打平或超越。

一套系统,两边拿第一

同一套方法还被搬到了国产芯片上。昇腾 CANNBench 三张榜,ForgeKernel 都是第一:

950DT 榜 4010.75 分,领先第二名 27.8%,基准加速比 1.533 倍,约为第二名的 143%。

950PR 榜 4165.94 分,基准加速比 1.638 倍,约为第二名的 1.18 倍。

A3 榜(昇腾 910C)4341.16 分,基准加速比 1.898 倍,约为第二名的 1.22 倍。这张榜它在 10 月 15 日封榜的 v1.1 就是第一,v2.0 开榜后没让出过。

迁移成本低得有点意外。从英伟达换到昇腾,只需把性能分析工具从 NCU 换成 msprof。新芯片要的硬件知识,由模型在板上边测边积累。

团队实测的数字是,同样的做法在国产芯片上能提速 20%~30%,在英伟达上是 5%~10%。

这个差距不难理解。CUDA 生态里的高性能算子被专家优化了很多年。国产芯片配套的算子库,还在建设初期。

目标决定它跑多快,结构决定它有没有跑错方向。

回到你手上的提示词

把任务分两类看,判断标准只有一条:跑一遍能不能立刻知道对不对。

能。改一版,跑一下,结果马上告诉你行不行。这种活,少写流程,把目标说清楚,让它自己迭代。你列的那一堆步骤约束,很可能正在拖它后腿。

不能。反馈周期长,试错成本高,方向错了要重来。这种活,先给结构:给里程碑,给拆解,给你验证过的经验。

代码能被机器快速验证,所以这条路在写代码上先跑通了。李宇轩说,正因如此,工程落地会比理论研究率先实现闭环。

过去像 FlashAttention 系列这种需要深度重构架构的顶尖算子,人类专家往往要数月甚至半年才迭代一次。

如今在团队内部,AI 超越最佳人类实现,最多只需两天。

这个判断不止适用于写代码。能被快速实测的任务,都在这条路上:目标说清楚就够了。验证慢、错了要重来的事,结构还得人来给。

你现在用 AI 写代码,是丢一句目标,还是先把结构讲清楚?在哪一步吃过亏,评论区说说。
图:银色机械计时器,表盘上刻着秒刻度
图:银色机械计时器,表盘上刻着秒刻度

这篇文章讲的是「怎么给 AI 派活」。想看同类的内容,去「提示词技巧」栏目翻一翻。


图片来源:机房(Joël van der Loo,CC BY-SA 4.0)、电路板(Tobias Hanf,CC BY-SA 3.0)、岔路(Roger Templeman,CC BY-SA 2.0)、计时器(Ansgar Koreng,CC BY-SA 4.0),均来自 Wikimedia Commons。