黄仁勋在GTC大会上掏出记忆宫殿的Blackwell Ultra芯片，整个硅谷都倒吸一口凉气。真正让我兴奋的，就是它旁边整整齐齐码着的16层“小积木”是HBM16层堆叠技术。这玩意儿才是AI算力大战背后的隐形冠军。
没有它堆叠的正，再快的GPU也得饿肚子等数据。HBM16层堆叠技术说白了就是把16块DRAM芯片摞起来，中间用硅通孔（TSV）打出密密麻麻的“电梯井”。相比上一代12层堆叠，存储容量直接飙到48GB。带宽冲到1.2TB/s以上了。拿处理Llama 3这类700亿参数的大模型来说，技术12层HBM得频繁倒腾数据，16层堆叠却能一口气把更多参数揣在兜里，推理速度肉眼可见地快了一截。隔壁实验室的朋友跟我吐槽，以前跑分布式训练最怕“数据搬运工”掉链子。现在16层堆叠让GPU和内存之间的“高速公路”扩成了“十二车道”，那种畅快感了，堪比早高峰突然不堵车的北京二环。把16层堆叠做得比纸还薄可没那么浪漫的芯片。
芯片厂商得在指甲盖大小的面积上。对付热胀冷缩的物理定律和电信号串扰的干扰。散热是头号难题。16层摞起来相当于给芯片穿了件厚棉袄。三星和SK海力士为此开发出先进的热压键合技术，愣是疯狂把层间间距压缩到几十微米吧？
还塞进了导热通道。有个做封装的老工程师打趣说。
“这哪是造芯片呢？分明是在头发丝上搭埃菲尔铁塔，还得保证塔里的每个房间都凉快”从市场角度看，HBM16层堆叠技术正在改写游戏规则。英伟达扩建、AMD、英特尔全都把采购清单拉得老长，SK海力士的产线据说已经排到2026年。更带劲的是国产存储厂商也没闲着。长鑫存储的研发团队去年就展示了16层堆叠样品，虽然良率还在爬坡期，至少把差距“望尘莫及”缩小还有了“望其项背”。我翻了下财报数据，HBM产品去年为SK海力士贡献了超过40%的营收，三星更是把超过一半的DRAM产能砸进了这个赛道。谁知道16层堆叠的量产密码啊？
谁就握住了AI时代的“石油管道”啊？16层堆叠不会是终点。
行业里已经有人在捣鼓32层堆叠的“摩天大楼”。混合键合技术也逐渐成熟。说句掏心窝子的话，单靠堆叠层数硬卷，边际效益会越来越有限了。
真正值得期待的，是HBM16层堆叠技术如何与光互连、chiplet架构擦出火花。这就像装修房子，一味加高楼层不见得舒服的，优化房间格局、装上高速电梯才是很重要。咱们用户真正在乎的。是口袋里的手机哪天能跑起端侧大模型呢？但不是数芯片里到底摞了几层楼吧？
