前英特尔 CEO 基辛格又开炮了。这回他盯上的是 HBM。高带宽内存,现在几乎每一块跑 AI 的芯片旁边,都贴着这个东西。他却说它糟糕透顶。我第一反应是,这人是不是又在跟老东家较劲。把那段话读完,反倒觉得不能这么简单地下结论。先交代来源。我看到的是 IT之家 10 月 14 日的报道,转述的是科技媒体 Wccftech 前一天的博文,源头是基辛格接受 a16z 的专访。专访视频我没找到,他原话的完整上下文更没有,【暂无相关资料】。下面这些,是报道里的转述,加我自己的理解。

HBM 到底是个什么东西
一句话,它是一摞叠起来的 DRAM。
普通电脑的内存,是一根根插在主板上的。HBM 不一样。它把好几层内存裸片摞在一起,中间用密密麻麻的硅通孔,也就是 TSV,上下打通,再整摞贴着 GPU 放。这么做的理由很实在。大模型跑起来,卡速度的往往不是算得快不快,是数据从内存搬到芯片、再搬回去快不快。谁搬得快,谁就赢。

基辛格的用词很有意思。
他说 HBM「只是我们目前能实现的最佳方案」。最佳,也是最差,一句话里全占了。
他骂的三点
第一是位密度。单颗 DRAM 裸片要打很多硅通孔,通孔本身要占地方,能放存储单元的位置就少了,单片的位密度自然低。这一条,报道里说得很清楚。

第二是散热。这点我原来没细想过。HBM3 和 HBM3E 的总线宽度是 1024 位,到了 HBM4 提到 2048 位。位宽越堆越高,需要的并行连接和微凸点就越多。韩国科学技术院做过分析,当 HBM 的功耗超过大约 30 瓦,GPU 或 ASIC 跟 HBM 堆栈之间那层物理接口,也就是 PHY,它自己发的热,会变成内存热应力的主要来源。基辛格的原话很直白,DRAM 内存不喜欢高温。
第三点,是他反复提的一个词,海岸线带宽。它指的是计算芯片边缘那一圈可用于连接 HBM 的物理周长。芯片就那么大,边缘就那么长,HBM 的接口偏偏要吃掉边缘上一大块面积。结果能堆的内存受了限,带宽想再往上扩,就撞了墙。

但反转在后面
骂归骂,报道里留了一句平衡的话。单颗裸片的位密度是低。可整摞叠起来之后,按每平方毫米算,累计密度其实更高。HBM 赢就赢在这个「叠」字上。
这就有点意思了。
基辛格说的是单片的事,业界看的是整摞的事。两个人站在不同的尺子上,结论自然不一样。
【个人看法】我觉得基辛格这话,一半是技术判断,一半是立场。他离开英特尔之后到处演讲,批评一个几乎所有对手都在押注的路线,多少有点唱反调的味道。但他提的散热和边缘带宽这两个物理约束,是真的,不是嘴炮。

那这事跟你有什么关系
关系可能比你想的近。今天所有谈 AI 算力的新闻,绕来绕去都绕不开内存。哪家云厂商囤了多少 HBM,哪家芯片卡在内存带宽上,已经不是新鲜事。换句话说,你在手机上等一个 AI 回答转圈的时候,背后卡住的很可能不是算力,是内存。这也解释了另一件事。为什么存力厂商的话越来越有分量。芯片再强,喂不饱它,也是白搭。
至于基辛格说的对不对,我给不出结论。HBM 那条路走不走得通,要看后面有没有人把位密度和散热这两个坑填上,【暂无相关资料】。我唯一能确定的是,他这段话至少让一个问题被摆到了台面上,AI 跑得快,到底快在哪,又卡在哪。

你是怎么看的。你更认同基辛格的挑刺,还是觉得他是站着说话不腰疼。