518 微秒对 472 微秒。
差了 46 微秒,9.8%。这一截是 10 月 31 日从那场直播里抠出来的:一个 AI 智能体在英伟达 B200 上,把 DeepSeek 开源的 FlashMLA 注意力算子跑得更快了。人类在 22.5 小时里写了 0 行代码。
它叫 ForgeKernel,出自面壁智能智能进化实验室,已联合 OpenBMB 社区开源。值得抄走的不是 9.8%,是它到底被喂了什么。
22.5 小时,42 轮,人类一行代码没写
FlashMLA 不是小角色。它是 DeepSeek 开源的注意力核心算子库。10 月 20 日开源的推理框架 DeepInfer,也把它集成了进去。
这个库出自业内公认 Infra 最强的团队之手,代表人类手写算子的巅峰。
要超越的对象就在这儿。
直播从白天跑到第二天上午九点多。中间发生了这些:
第一版通过了正确性检查,耗时 1834 微秒。能跑,但慢。
不到 4 小时,压到 593 微秒,降幅约 67.6%,从零逼近当前最佳实现的九成。
第 7 小时前后出了一次核心结构上的突破。它先超过了自己的上一代版本,随后第一次超过 FlashMLA。
最后停在 472 微秒,FlashMLA 是 518 微秒。
全程 42 轮迭代,留下 32 个版本,用掉 1 张 B200 和 22 个 GPU 小时。
有一段值得单独拎出来。跑到后期,它自己发现 Q 的突发加载在和 KV 数据搬运争抢访存资源。于是它主动控制 Q 的请求节奏,又压下 2.4% 的耗时。
没人告诉它去查访存冲突。这种判断过去属于资深工程师的活。

它拿到的东西只有两样
整个过程中,AI 手里的信息只有算子的数学定义,和目标硬件约束。
没有源码。没有论文。
你可以对照一下自己平时怎么用 AI 写代码。
需求写成一大段,角色、步骤、输出格式全列上,生怕它漏了什么。这次的做法是反过来的。
只给终点,不给路。
只给目标,10 个算子赢 8 个
这条路不是临时起意。10 月 27 日,ForgeKernel 团队与清华大学等机构在 arXiv 发了一篇论文。标题直译过来是《只给一个目标,AI 的基线就高过专家算子》。
做法很干脆:只给模型一个优化目标,不提供任何算子知识,也不规定固定流程。
结果在 B200 上,模型在 10 个算子中有 8 个跑赢了人类维护的开源库。
他们还做了另一组对照。同一个模型,套上 MIT 韩松团队参与开发的专用框架 KDA-0.5,在单配置优化任务上的平均成绩,反而只有 JustGoal 的 0.95 倍。
专家预先写好的经验和流程,在这里起了负作用。

撞墙的地方:开局几步就把路走死
论文里还有一句,很多人会跳过,我觉得它比 8 胜 2 负更重要。
模型擅长调细节,却难以独立设计好整体架构。它常常在开局几次尝试中就把路线定死,之后只能在原有架构里微调。
前面那 42 轮,那些漂亮的数字,都建立在一条开局就选定的路上。路选对了,后面全是加速;路选错了,42 轮就是 42 次原地打磨。
你自己应该也遇到过。让 AI 写一整个模块,它搭的骨架你后面怎么改都别扭。问题不在细节,在骨架。

补的三块,都是结构
ForgeKernel 之所以要存在,就是因为只给目标不够。它在 JustGoal 基础上加了三个东西。
第一,把架构设计和实现能力分开,把架构设计抽象成里程碑,把问题拆开。先定骨架,再让它动手。
第二,把每一条实测验证过的硬件经验存进知识库。这些经验是测出来的,不是猜的,换一个算子还能接着用。
第三,把自己写出的最好版本当作下一轮的对手,一轮轮自进化。它不跟人类比,它跟昨天的自己比。
后两条其实很像人做工程的方式:经验沉淀下来,标准不断提高。区别是它一天能走完 42 轮。
效果放到更多算子上:29 项对比中有 24 项打平或超越专家实现;三套领先 Agent 系统公开的 7 个最强算子,也全部打平或超越。
一套系统,两边拿第一
同一套方法还被搬到了国产芯片上。昇腾 CANNBench 三张榜,ForgeKernel 都是第一:
950DT 榜 4010.75 分,领先第二名 27.8%,基准加速比 1.533 倍,约为第二名的 143%。
950PR 榜 4165.94 分,基准加速比 1.638 倍,约为第二名的 1.18 倍。
A3 榜(昇腾 910C)4341.16 分,基准加速比 1.898 倍,约为第二名的 1.22 倍。这张榜它在 10 月 15 日封榜的 v1.1 就是第一,v2.0 开榜后没让出过。
迁移成本低得有点意外。从英伟达换到昇腾,只需把性能分析工具从 NCU 换成 msprof。新芯片要的硬件知识,由模型在板上边测边积累。
团队实测的数字是,同样的做法在国产芯片上能提速 20%~30%,在英伟达上是 5%~10%。
这个差距不难理解。CUDA 生态里的高性能算子被专家优化了很多年。国产芯片配套的算子库,还在建设初期。
目标决定它跑多快,结构决定它有没有跑错方向。
回到你手上的提示词
把任务分两类看,判断标准只有一条:跑一遍能不能立刻知道对不对。
能。改一版,跑一下,结果马上告诉你行不行。这种活,少写流程,把目标说清楚,让它自己迭代。你列的那一堆步骤约束,很可能正在拖它后腿。
不能。反馈周期长,试错成本高,方向错了要重来。这种活,先给结构:给里程碑,给拆解,给你验证过的经验。
代码能被机器快速验证,所以这条路在写代码上先跑通了。李宇轩说,正因如此,工程落地会比理论研究率先实现闭环。
过去像 FlashAttention 系列这种需要深度重构架构的顶尖算子,人类专家往往要数月甚至半年才迭代一次。
如今在团队内部,AI 超越最佳人类实现,最多只需两天。
这个判断不止适用于写代码。能被快速实测的任务,都在这条路上:目标说清楚就够了。验证慢、错了要重来的事,结构还得人来给。

这篇文章讲的是「怎么给 AI 派活」。想看同类的内容,去「提示词技巧」栏目翻一翻。
图片来源:机房(Joël van der Loo,CC BY-SA 4.0)、电路板(Tobias Hanf,CC BY-SA 3.0)、岔路(Roger Templeman,CC BY-SA 2.0)、计时器(Ansgar Koreng,CC BY-SA 4.0),均来自 Wikimedia Commons。