175 万亿这个词元量,和它不说明的四件事

10 月 31 日,中国电子信息产业发展研究院(赛迪研究院)发布了一份《新域新质创新发展十大趋势》。

里面有一句话:我国人工智能推理数据量,首次超过训练数据量。

同一份报告里还有一个数,截至 2026 年 6 月,日均词元调用量超过 175 万亿,跟 2024 年年初比增长 1000 多倍。

175 万亿是多少?

我换算不出来。

这个数字看着像行业新闻,底下其实是个很基础的问题:训练和推理,到底差在哪。

先说清楚,报告的原文我没拿到,研究所那类站点打不开。下面的数字转引自央视新闻的报道,经 IT 之家 11 月 1 日转述。我自己没有做过任何测算。

训练,是先把书读完

想象一个人被关进图书馆,把整座馆的书一本一本读进去,读完才放出来。训练差不多是这个意思。海量的文本、图片、代码被送进机器,几千上万张卡连轴转,跑几十天。这一步的产出不是一个答案,是一套参数。模型读完之后「知道」了一些规律,但它还没开始干活。

图:一排参考工具书的书脊。训练阶段往里塞的,就是这类东西。
图:一排参考工具书的书脊。训练阶段往里塞的,就是这类东西。

报告里提到,顶尖大模型的迭代周期从过去的几个月压缩到了几周,甚至几天。这是训练这一侧在发生的变化。

我自己的理解是:训练是一次性的、集中的、很贵的。跑完一次,那个模型大致就定了。之后当然还能微调,但主体在训练阶段已经成型。这一段是我的解释,不是报告原话。

推理,是每天上班答题

你打一行字发出去,它吐一段话回来。这一来一回,就是一次推理。

推理要占卡,要耗电,要花时间。你晚上让 AI 改一段文案,同事早上让 AI 看一眼报错,都算。175 万亿这个词元量,就是所有这些问答加起来的总数。

单位是「词元」,不是「字」。一个中文字大致对应一到两个词元,一个英文词也常被切成两三个。所以不能拿 175 万亿直接换算成多少字。

官方怎么折算,我没查到。

图:机房里的冷却管道。推理要占机器,也要带走热量。
图:机房里的冷却管道。推理要占机器,也要带走热量。

报告把这次转变概括成一句话:从「喂模型」进入「用模型」。

这句概括不算漂亮,但准确。

「超过」这件事,为什么值得单独拎出来

因为它说明钱和电花在哪里变了。

训练阶段,算力集中在少数机构手里,一年做几次大任务。推理阶段,算力被摊到每天每时,被几亿人分散调用。报告里还给了几个数。我国已累计建成 500 多家卓越级智能工厂,覆盖 31 个省(区、市),涵盖超过 80% 的制造业行业大类。国产算力、大模型在钢铁、汽车等 20 个行业落地了 1000 多个应用场景。

另一份报告能对上。CNNIC 的《生成式人工智能应用发展报告(2026)》说,截至 2026 年上半年,我国生成式人工智能用户规模超过 7 亿,普及率突破 50%。

这几个数摆在一起,「从研发转入规模化应用」这句话才不空。

图:输电铁塔。算力的账,最后有一部分会落到电价上。
图:输电铁塔。算力的账,最后有一部分会落到电价上。

不过这些数之间是什么关系,报告没写。500 家工厂、1000 个场景、7 亿用户、175 万亿词元,是并列摆出来的,不是一道算式。

这个数字不说明的四件事

第一,「推理数据量」和「日均词元调用量」不是一个单位。报告说前者超过了后者对应的那个量,但没给换算关系。

我试着找过,没找到。

第二,调用多不等于价值高。一次调用可能只是问了一句今天几号。

那这 175 万亿里,有多少是真有用的?没人统计过。

第三,「增长 1000 多倍」缺一个基数。2024 年年初的日均调用量是多少,报道里没给。1000 倍听着吓人,但如果基数很小,绝对值未必有多大。

第四,推理超过训练,不代表训练不重要。

道理很直白:训练一停,模型就停在原地,明年还是这个样子。

跟不太关心技术的人,有什么关系

关系在于,你手机里那些 AI 功能,背后的算力重心已经从「教」挪到了「用」。

以前是攒一笔钱买设备,现在是每天交电费。

这个变化会决定接下来两件事往哪走:单位调用能不能更便宜,响应能不能更快。这两条是我猜的,报告里没写。

图:键盘。你敲的每一个问题,都会在调用量里记一笔。
图:键盘。你敲的每一个问题,都会在调用量里记一笔。

一句总结

训练是把书读完,推理是开口说话。现在花在说话上的算力,超过了花在读书上的。

这句话准不准,等报告原文能下载了,我想再看一遍原始口径。

你一天大概会问 AI 几次?有没有算过,其中几次其实自己也能答。