在AI大模型快速向推理端演进的当下,算力芯片的性能提升正遭遇前所未有的物理与经济双重瓶颈。
极高的算力吞吐需求与昂贵的存储成本之间,构成了一道难以逾越的“内存墙”。
虽然高带宽内存(HBM)凭借极高的数据传输能力成为了算力芯片的标配,但受限于DRAM的物理特性,其容量增长缓慢且单GB成本高昂。
近期,SK海力士与闪迪联合发布了高带宽闪存(HBF)的首套行业标准规范,谷歌与Tenstorrent等大厂的加入,标志着产业界试图从存储架构底层重构AI算力的经济学模型。
这种融合了NAND超大容量与HBM高带宽的新型存储技术,能否真正破解AI推理阶段的算力成本危机?

填补存储层级空白

高带宽闪存(HBF,High Bandwidth Flash)是一种专为AI推理等高吞吐、大容量需求设计的新型存储架构。
它填补了高带宽内存(HBM)与传统固态硬盘(SSD)之间的存储层级空白。
HBF通过类似HBM的三维堆叠与先进封装方式,将多层NAND闪存芯片与逻辑控制芯片高度集成。
这种架构既保持了接近HBM的高速数据读取带宽,又依托NAND闪存实现了存储容量的大幅扩容与成本降低。
其核心使命在于解决大模型推理过程中KV Cache膨胀导致的容量危机,以极高性价比重新定义AI计算系统的存储分层。
三类代表性存储形态对比

从物理结构与作业形式来看,当前应用于AI算力场景的代表性存储形态主要分为三类:
第一类:高带宽内存(HBM)
基于DRAM芯片垂直堆叠,提供极致的传输带宽与超低延迟,但单堆栈容量通常局限于几十GB,制造成本居高不下,主要服务于AI训练与核心计算层。
第二类:高带宽闪存(HBF)
基于NAND Flash采用BiCS工艺及晶圆级键合技术实现16层芯片垂直堆叠,单堆栈容量可达512GB。它兼具接近HBM的读取带宽(如1.6TB/s)与NAND的容量优势,静态功耗明显更低。
第三类:传统存储形态(DRAM与SSD)





