标签：推理

赛迪研究院 10 月 31 日发布《新域新质创新发展十大趋势》：我国人工智能推理数据量首次超过训练数据量，截至 2026 年 6 月日均词元调用量超 175 万亿，比 2024 年年初增长 1000 多倍。本文讲清训练与推理的区别，并列出这个数字不说明的四件事。

微软在旧金山发布会上宣布，GitHub Copilot 本月底前支持本地 AI 模型推理，开发者可在云端与设备端之间自动或手动切换；同时推出 MAI Code 1.1 Flash，总参数 1370 亿、活跃参数 68 亿，Surface Laptop Ultra 上提示 2K 到 256K token 时解码吞吐每秒 40 到 63 个词元。这篇讲清混合智能怎么分工，以及本地推理还差什么。

我同事老周，上周干了件傻事。 他花两千多买了张二手显卡，又熬了三个通宵，就为了在自己那台破台式机上跑一个「小模型」。 结果跑起来了，回答一句话要等四十秒。 他媳妇看他盯屏幕那表情，问他是不是欠了网贷。 老周跟我说这事的时候还嘴硬，说等显卡降价就换。我说你先别换，你连这东西为啥慢都没搞明白。 一台老式