HBF

summary:

HBF[High-Bandwidth Flash,高帯域幅フラッシュメモリ]は,SanDiskが2025年2月に発表したAI推論ワークロード向けに設計されたメモリ技術.

NANDフラッシュ技術を基盤とし,BiCS技術[Bit Cost Scaling]とCBA[CMOS直接接合,CMOS Direct Bonding Architecture]ウェーハボンディングを組み合わせることにより,高密度のスタッキングを実現.

従来のHBM[High-Bandwidth Memory]と比較して,同等の帯域幅を維持しつつ,8~16倍の容量を提供することを目指す.

複数の高容量3DNANDアレイに並行してアクセスできるようにすることより,十分な帯域幅と容量を実現.第1世代のHBFは,GPUで最大4TBのVRAM容量を実現できる.NANDフラッシュの特性上,DRAMに比べてレイテンシーが高い.従って,HBFは主に読み取り中心のAI推論タスク向けとなっている.

HBFはAIモデルのストレージと推論の要件を満たす高容量・高スループットのソリューションとして期待.また,携帯電話やその他の種類のデバイスにも採用されることが期待される.

Mathematics is the language with which God has written the universe.





















TDM pip GCR LMCache KDN vLLM