# 一次任务百万token,阿里怎么把训练时间砍掉近一半

机房内成排的黑色服务器机柜
机房内成排的黑色服务器机柜

先说一条发布。

阿里千问今天放出一个叫 QwenGyre 的东西,官方定位是「面向长程智能体任务的在线强化学习框架」。

名字拗口,先说它要解决什么事。

智能体跑一次任务,要多久

按官方介绍,智能体去干复杂活,一次执行能持续好几个小时。这期间模型和环境来回交互几百轮,累计吃进去的 token 是百万级的。训练要的是样本,而样本得从这几次长跑里一点点攒。跑得慢,跑得久,还容易中途白跑。

【本人未实测】我没跑过这类长任务,具体卡在哪一步、耗时多久,我没有一手体感。下面讲的都是官方口径和公开说明。

它想干的事:让闲下来的算力接着干活

QwenGyre 的办法,是把 GPU 切成若干计算单元。任务跑完一批,空出来的单元就转去训练。官方打了个比方,说像项目组里谁先交差、谁先加入复盘。还有一句我印象挺深:正在跑的任务不受打扰,进度和状态原地保留,连之前算过的缓存都整体搬走,不用从头再来。

这句是关键。

很多长任务最怕的不是慢,是重来。缓存能整体搬走,等于省掉了重复计算。空出来的单元加入本轮训练,谁算得快谁多干,最后核心单元汇总结果,完成一次参数更新。

绿色电路板微距
绿色电路板微距

训练样本怎么挑

长任务跑完,轨迹特别长。全拿来训练,又费又杂。QwenGyre 用 Token-in Token-out 记录每段输出生成时的真实上下文,按共享前缀组织成轨迹树,只把被选中的那条路径展开成训练样本。

还有个细节叫 Partial Scoring。任务超时了,但只完成了一部分,这部分也能给出有用的反馈。

这点比想象中重要。超时白跑,在长任务里太常见了。

插座上的方形芯片
插座上的方形芯片

跑分:48 步,52.5% 到 58.5%

官方给了一组实验数据。

在 NL2RepoBench 的在线强化学习实验里,每次 rollout 约 70 万 token,训练 48 步之后,模型通过率从 52.5% 提升到 58.5%。同一组还测了速度。相同 GPU 预算下,QwenGyre 相比 Async 实现 1.78 倍端到端加速,训练分数和 Async、Colocate 接近。在 Qwen3.6-122B 上做跨任务验证,NL2RepoBench、DeepSWE、TerminalBench 三类任务都拿到了端到端提速。

机柜内的服务器与蓝色线缆
机柜内的服务器与蓝色线缆

几点看法

【以下是我的判断,不是官方结论】

一是这组数字是官方自己发的,我没法独立复现。「通过率 52.5% 到 58.5%」,是 6 个百分点,算不上惊艳的跃升。真正值得看的是 1.78 倍的速度。如果这个加速在别的任务上也成立,对天天烧算力的人更实在。二是思路其实不新。调度这个词,在分布式训练里被讲了太多年。新的地方可能在于,它是冲着长程智能体这个场景专门做的。场景一变,难点就变了。

三是不只阿里在动。今天还有两条消息可以一起看:英特尔、博通的 CEO 都提到,资金可能成为 AI 发展的瓶颈;高通则被 AI 企业要求,在 2028 年推出能本地跑 100B 模型的移动平台。

算力不够、钱也不够的时候,让同样的卡多干点活,就是最实在的方向。

数据中心里成排的机柜
数据中心里成排的机柜

一个提醒

【暂无相关资料】官方没说 QwenGyre 是否开源、什么时候能用、对硬件有没有门槛。这几样我没查到,也就不猜了。想动手的人,我的建议是先盯它的开源进度,别急着为它调整自己的训练管线。


你用过多卡训练吗?有没有被跑到一半白跑坑过?评论区聊聊。

数据中心走廊
数据中心走廊