新闻
大众
大众大摩:AI 内存短缺将持续数年 三大路径破局 存储与异构算力迎结构性机会
配图:大众大摩:AI 内存短缺将持续数年 三大路径破局 存储与异构算力迎结构性机会
新闻导读
大众大摩:AI 内存短缺将持续数年 三大路径破局 存储与异构算力迎结构性机会农业粮食主题接地气,城市读者也能理解田间和餐桌之间的关系。争议话题措辞谨慎,不站队煽情,更像在认真备课。和同事一起看时,讨论会自然落到证据而不是站队。标签过滤能躲开暂时太难的,先专注自己能消化的层级。安静获取知识像逛管理良好的图书馆,来去自由。有问题就来翻,有收获就收藏,节奏刚刚好。
智通财经APP获悉,摩根士丹利发布半导体行业研报指出,DRAM内存短缺将贯穿本轮AI产业周期,而AI算力扩张不会等待新晶圆厂建成投产。行业正通过硬件降配、推理架构解耦、CXL内存池化三大技术路径绕过内存瓶颈,在供给约束下持续推进算力建设。该行继续看好美光(MU.US)、闪迪(SNDK.US)等存储龙头,同时看好CXL互联、异构推理赛道的增量机遇,推荐Astera Labs(ALAB.US)、Marvell(MRVL.US)、Cerebras(CBRS.US)及英伟达(NVDA.US)。
大摩强调,当前 AI 内存短缺并非短期扰动,而是算力性能增长远超内存供给速度的结构性矛盾。前沿大模型规模每 6 个月翻一番,头部模型上下文窗口年增速达 5-6 倍,叠加推理并发需求持续提升,内存容量与带宽需求持续爆发。而 DRAM 晶圆厂建设周期长达数年,供给弹性极低,短缺格局将持续数年。英伟达CEO黄仁勋也公开表示,行业需要转变思路,通过架构创新应对内存约束,而非单纯等待产能扩张。
面对 HBM 与主存供给紧张,行业最直接的应对方式是选择性降低单设备内存规格(De-speccing)。以英伟达 Rubin 架构为例,单机架 LPDDR5 容量从原计划 54TB 降至 28TB,单 GPU HBM 容量从 288GB 下调至 192GB,通过降低内存堆叠高度保障整机出货量。大摩指出,降配并非消除内存瓶颈,而是将压力在内存层级间转移:削减高速本地内存后,KV 缓存等非高频数据向 NAND 存储下沉,同时跨 GPU 数据交互增加,带动对网络互联带宽的需求,本质上是以更高速的网络互联、更低成本的存储资源,补充稀缺的高带宽内存。
第二条破局路径是推理架构解耦(Disaggregation)。AI推理包含预填充(Prefill)与解码(Decode)两个差异显著的阶段:Prefill 以算力消耗为主,Decode则高度依赖内存带宽。传统架构用同一加速器兼顾两类任务,资源利用率偏低。当前行业正加速走向异构推理,将两个阶段拆分至不同硬件:算力密集型Prefill由通用GPU承担,内存带宽密集型 Decode 则由搭载大容量片上 SRAM 的专用加速芯片处理。
典型代表包括Cerebras的晶圆级引擎、英伟达收购的 Groq LPU 架构,均能在解码阶段提供远超传统 GPU 的内存带宽效率。大摩认为,异构推理将成为 AI 基础设施的重要演进方向,专精解码环节的算力厂商将获得明确的增量市场。
第三条路径是 CXL 技术重构内存体系。CXL(计算高速互联)通过高速互联实现内存的扩展、共享与池化,让内存不再绑定单一处理器,成为突破内存容量约束的核心技术路径。大摩测算,AI需求将推动 CXL 及相关内存附加芯片市场规模在 2030 年达到约 60 亿美元,远超传统 CPU 内存扩展市场体量。其核心价值在于构建分层内存架构:最高频数据保留在HBM,次高频数据放入 CXL 内存池,低频冷数据下沉至 NAND,用成本梯度匹配数据访问频率。
投资主线方面,大摩重申三大方向:一是继续超配美光、闪迪,降配源于供给短缺而非需求走弱,AI内存需求长期向上,供给缺口将持续消化产能;二是布局 CXL 与 scale-up 互联龙头 Astera Labs、Marvell;三是关注异构推理受益者Cerebras,以及通过收购Groq完善异构布局的英伟达。
网友观点
如果只能留一个知识类应用,我大概率会留它,因为稳、清、诚实。天文地理健康科技都有覆盖,单篇不长,信息密度却够用。搜索支持问题句,定位比纯关键词好用不少。能推动行为改变,知识闭环才算真正完成。写给后来者:别指望一夜变专家,但真的能变清醒。连续高强度翻看也不容易心累。
免责声明:本文内容来自公开报道与编辑整理,仅供参考。转载请注明出处;版权争议请联系本站核实处理。页面地址:http://www.gxycedu.cn/te_inform?id=ev1ntb-g5sttpp%3D2p%3D13p%3D5p%3D3
评论区
热门讨论 · 占位展示期待你的精彩发言。