谁能说清楚一条内存比空调还贵的原因?
AI行业火爆导致内存条暴涨,比空调还贵,是真的,但这俩不是直接的关系,而是中间还有一个HBM内存在搞鬼。而且跟中国能不能产,这次关系真的不大。
HBM内存这玩意儿,在AI行业用的特别多,它速度快,带宽高,特别适合AI大模型的运作。而且最关键的(这点才是导致普通DDR内存条暴涨的原因),这玩意儿价格高,利润空间大,厂家挣钱多,所以产能都放到了HBM内存上,导致DDR内存产量降低,从而造成DDR内存暴涨。
那为什么AI行业对这种内存需求那么高?
AI大模型体积都非常大,运行时模型本身都要放在内存里,再加上KV上下文缓存,AI行业对内存的需求是极其庞大的。例如最近新出的Kimi K3,原始权重文件1.56T,这么大的文件,全部都要放在内存里。
最初有普通DDR内存,但发现这种内存性能不够,所以出现了HBM内存。二者区别如下:
| 维度 | 普通DDR4/DDR5 | HBM |
|---|---|---|
| 带宽 | 约25-50 GB/s(单通道) | 每秒TB级,相当于”8车道变1024车道” |
| 与GPU的距离 | 通过主板走线连接,延迟高 | 与GPU封装在同一块基板上,物理距离极近 |
| 容量密度 | 单条16-64GB | 单颗GPU可配128-512GB堆叠HBM |
大概总结一下,就是上表。可以看出,普通DDR内存和HBM内存相比,完全不在一个水平线上,没有任何竞争力。
打个比方,如果有100万片GPU,在内存性能不够的情况下,这些GPU可能真正工作时间只有20%,剩下时间全都是在等数据在低速内存里的传输。所以AI对内存的核心需求就两点:容量要够大、速度要够快。普通DDR4/DDR5在这两方面都满足不了。
然后再加上刚才说的这种内存利润大,厂家挣的钱比普通DDR内存高多了,所以分配给DDR的产能大幅下降了,价格就暴涨了。
这个事情其实很奇怪:这种价格的暴涨,整条产业链上从上游到下游那么多角色,只有HBM厂家是唯一一个获利的,其他角色(硬件厂家、大模型公司本身、消费者)都是在吃亏。
这是我个人的感觉,不知道大家是否有同样的感受呢?
编辑于 2026-08-10 · 著作权归作者所有