手机本地跑大模型这事,我看了两年新闻,基本都当宣传听。参数写得漂亮,真机一跑就烫、就卡、就掉电。这种落差见多了,人就不太容易激动。所以 10 月 13 日面壁智能发 MiniCPM-V 4.7,我第一反应还是划过去。

直到看见「3GB 内存」「13+ token/s」这两个词。

手机被拆开后的主板与零件
手机被拆开后的主板与零件

它这次发了什么

按官方消息,型号有两个:35B-A3B 和 1B。35B-A3B 是 MiniCPM-V 系列的第一个 MoE 模型,官方说它基于一套叫 LES(前瞻专家调度)的推理加速技术,并且是「首个支持端侧无损流畅运行的开源 MoE 模型」。数字落在 iPhone 17 Pro Max 上:3GB 内存,解码速度 13+ token/s。

平台清单拉得很长。iOS、安卓、鸿蒙都支持,芯片侧适配了 Intel、AMD、Arm、瑞芯微、后摩。另外同步开源了一个 SRFT(Self-Replay Fine-Tuning)微调方案,用途是让开发者扩展模型能力、减少遗忘。

跑分也是官方给的。

35B-A3B 在 Instruct 模式下,用更短的推理时间拿到比 Qwen3.6 35B-A3B 更高的综合得分;1B 相比上一代 4.6,综合得分和推理效率都领先 Qwen3.5 0.8B。

就这些。

圆形半导体硅晶圆
圆形半导体硅晶圆

「3GB 内存」最容易被误读

先说清楚:下面是我对官方口径的理解,不是我的实测。

3GB 这个数最抓眼,也最容易读歪。官方原话是「以仅 3GB 内存达到 13+ token/s」,指的应该是运行时的内存占用,而不是模型文件本身只有 3GB。这两件事差得很远。模型权重多大、量化到什么精度、运行时峰值是多少,官方这次都没细说,【暂无相关资料】。

再看 13+ token/s。这个速度放在阅读场景里够用,正常中文阅读大概每秒几个字到十几个字,模型出字能跟得上你读。但够用和好用,是两回事。首 token 延迟多少?聊久了会不会越来越慢?发热和耗电怎么样?这些真机上最要命的部分,官方没提,我也没拿到机器,【本人未实测】。

这才是关键。

绿色电路板局部
绿色电路板局部

为什么非要塞进手机

官方没讲动机。不过看它适配的那串芯片名单,能猜出点倾向:Intel、AMD、Arm、瑞芯微、后摩,这明显不是给数据中心准备的。端侧的好处,行业里讲过很多遍。数据不出本机,断网也能用,不用按调用量掏钱。坏处也明摆着:手机的算力和内存,跟云端根本不在一个量级。

所以真正的看点不是「能不能跑」,而是「跑起来之后,还剩多少能力」。

这正是我留了个心眼的地方。官方说 35B-A3B 比 Qwen3.6 35B-A3B「综合得分更高」,可这个综合得分由哪些题构成、在什么条件下测的,官方没给,【暂无相关资料】。同一档模型比分数,测试集的构成往往就能决定结果。

【个人看法】端侧模型这几年确实在往前走。但「官方称」和「第三方实测」之间,通常隔着一截路。这次会不会例外,得等有人真拿手机跑一轮。

先别急着高兴。

手持手机,屏幕显示界面
手持手机,屏幕显示界面

和普通人有什么关系

如果你不是开发者,这事现在跟你关系不大。别急着期待 App Store 里马上冒出个能在手机上跑的 35B 助手,那是另一回事。方向倒是清楚的:当模型能塞进本地设备,很多「必须联网」的前提会松动。对开发者更直接,SRFT 方案开源了,适配平台也列了清单,二次开发的门槛在降低。至于降了多少、好不好用,我没试,【本人未实测】。

桌面上的一块电脑显卡
桌面上的一块电脑显卡

最后

面壁这一枪,开得挺响。

参数漂亮,方向也对。但参数漂亮和真能用之间,还差一次真机实测。这篇先把它是什么记下来,好不好用,等有人跑了再说。

机房中成排的服务器机柜
机房中成排的服务器机柜

你会为了「离线跑大模型」这个卖点换手机吗?