在8月4日于加利福尼亚举行的FMS 2026大会开幕式上,SK海力士和闪迪发布了HBF(高带宽闪存)技术的首批规格。这不仅仅是又一项新开发,而是一次雄心勃勃的尝试,旨在填补超高速HBM内存与传统SSD硬盘之间的空白。业界长期以来一直需要这样一个中间层,如今我们终于看到了具体的数字和参数。
HBF的关键特性
根据已公布的数据,HBF将提供高达512GB的容量,采用每堆栈8或16个NAND芯片的配置。带宽从0.4TB/s到惊人的3.0TB/s不等。然而,最重要的是采用了开放的UCIe(通用小芯片互连标准)接口。这一决定确保了与不同制造商的GPU和CPU的兼容性,这对生态系统至关重要。通过开放计算项目社区开放规范,HBF被定位为全行业标准,而非单一供应商的专有解决方案。
AI服务器中的四级内存层级
HBF的引入将从根本上改变现代AI服务器的架构。我认为将形成四级内存层级:
- HBM — 用于计算核心直接处理的“热”数据。速度最快,但价格高昂且容量有限。
- CXL — 用于加速传统内存,延迟在数十至数百纳秒之间,并与CPU/GPU完全兼容。
- HBF — 填补了内存与SSD之间的关键空白。通过UCIe总线直接与处理器集成,这些设备将提供接近HBM的速度,同时基于廉价的NAND架构实现大容量。
- NVMe SSD — 将继续用于存储“冷”数据。
对于LLM基础设施而言,这解决了关键问题:在推理过程中存储海量上下文和模型权重。CXL负责处理超低延迟的数据,而HBF则处理无法放入HBM和CXL的千兆级上下文缓存和权重,因为后两者成本高昂且容量受限。
背景与前景
SK海力士与闪迪在HBF标准化方面的合作始于2025年8月,而于2026年2月启动的联盟现已包括谷歌和Tenstorrent。在FMS 2026展台上,还宣布了375层4D NAND(V10)的开发,其每瓦性能比上一代提升了2.5倍。eSSD的大规模生产计划于明年初开始。
自2026年初以来,SK海力士的股价上涨了超过330%,尽管自6月峰值以来已回撤约一半——市场显然正在消化该公司的雄心勃勃计划。
我的看法:HBF是对AI基础设施瓶颈的及时且技术成熟的回应。如果该标准能被广大制造商接受,我们将见证大型模型推理成本的大幅下降,从而加速其全面普及。