存储环节
展开
根据功能主要分为两种:
易失性内存、非易失性内存。
1.易失性内存
产品:
DRAM :DDR5:目前 PC 和服务器主流,带宽较 DDR4 提升 2 倍。LPDDR5X:手机顶级内存,功耗控制极佳。
HBM(高带宽内存):英伟达 B200 配 HBM3e, Rubin 架构配 HBM4。
DRAM和HBM关系与区别:
问题:为什么AI大数据时代不能用普通DDR系列来代替HBM?
两者主板位置:
结构完全不一样DDR5芯片在主板上远距离走线针脚少、速度有限→ 像乡间小路
HBM多层堆叠(4/8/12 层)用 TSV 硅通孔垂直连接直接贴在 GPU 旁边,用 2.5D 硅中介层针脚数量暴增→ 像100 车道超级高速
堆数量也不行:
延迟太高AI 对延迟极其敏感,延迟一高,算力直接废掉
干扰太大线路长、信号乱,跑不了高频
功耗爆炸HBM 同带宽下功耗只有 DDR5 的 1/3~1/4
最关键,带宽不同。
(1)容量 = 仓库大小模型参数有多大(7B、13B、70B、175B…)普通 DDR5 容量很容易做大:128GB、256GB、512GB 都行(2)带宽 = 公路宽度每秒能把多少数据搬进 GPU 里计算AI 训练最吃这个带宽不够 → GPU 空转、算力浪费、训练极慢。
2.非易失性存储
NAND Flash,NAND 不再单纯用 nm 数,而是用 ** 堆叠层数(Layer)** 来衡量先进程度。
产品:
3D NAND SSD:消费级:PCIe 4.0/5.0 固态硬盘(如三星 990 Pro),读写速度高达 7000MB/s 以上。企业级:U.2/U.3 形态,专为服务器设计,寿命和稳定性极强。
移动存储:UFS 4.0:目前安卓旗舰手机标配,顺序读取超 2800MB/s。eMMC:主要用于中低端手机和嵌入式设备。
国产就看存储和长江存储。
国际和国内对比:
易失性内存、非易失性内存。
1.易失性内存
产品:
DRAM :DDR5:目前 PC 和服务器主流,带宽较 DDR4 提升 2 倍。LPDDR5X:手机顶级内存,功耗控制极佳。
HBM(高带宽内存):英伟达 B200 配 HBM3e, Rubin 架构配 HBM4。
DRAM和HBM关系与区别:

问题:为什么AI大数据时代不能用普通DDR系列来代替HBM?
两者主板位置:
结构完全不一样DDR5芯片在主板上远距离走线针脚少、速度有限→ 像乡间小路
HBM多层堆叠(4/8/12 层)用 TSV 硅通孔垂直连接直接贴在 GPU 旁边,用 2.5D 硅中介层针脚数量暴增→ 像100 车道超级高速
堆数量也不行:
延迟太高AI 对延迟极其敏感,延迟一高,算力直接废掉
干扰太大线路长、信号乱,跑不了高频
功耗爆炸HBM 同带宽下功耗只有 DDR5 的 1/3~1/4
最关键,带宽不同。
(1)容量 = 仓库大小模型参数有多大(7B、13B、70B、175B…)普通 DDR5 容量很容易做大:128GB、256GB、512GB 都行(2)带宽 = 公路宽度每秒能把多少数据搬进 GPU 里计算AI 训练最吃这个带宽不够 → GPU 空转、算力浪费、训练极慢。
2.非易失性存储
NAND Flash,NAND 不再单纯用 nm 数,而是用 ** 堆叠层数(Layer)** 来衡量先进程度。
产品:
3D NAND SSD:消费级:PCIe 4.0/5.0 固态硬盘(如三星 990 Pro),读写速度高达 7000MB/s 以上。企业级:U.2/U.3 形态,专为服务器设计,寿命和稳定性极强。
移动存储:UFS 4.0:目前安卓旗舰手机标配,顺序读取超 2800MB/s。eMMC:主要用于中低端手机和嵌入式设备。
国产就看存储和长江存储。
国际和国内对比:

话题与分类:
主题股票:
主题概念:
声明:遵守相关法律法规,所发内容承担法律责任,倡导理性交流,远离非法证券活动,共建和谐交流环境!
