新闻 早知道

大摩:AI 内存短缺将持续数年 三大路径破局 存储与异构算力迎结构性机会

李天增 阅读约 8 分钟 687256 阅读
大摩:AI 内存短缺将持续数年 三大路径破局 存储与异构算力迎结构性机会
配图:大摩:AI 内存短缺将持续数年 三大路径破局 存储与异构算力迎结构性机会

新闻导读

想要XX提问箱里别人的好问题会带着自己把问法问得更精确。热点事件解读会标明哪些较确定、哪些仍在研究,表述相对克制。在心理健康话题上,克制本身就显得专业。标签过滤能躲开暂时太难的,先专注自己能消化的层级。信息获取负担低,却不轻飘。细节体验也在线,长时间用不会觉得被敷衍。

智通财经APP获悉,摩根士丹利发布半导体行业研报指出,DRAM内存短缺将贯穿本轮AI产业周期,而AI算力扩张不会等待新晶圆厂建成投产。行业正通过硬件降配、推理架构解耦、CXL内存池化三大技术路径绕过内存瓶颈,在供给约束下持续推进算力建设。该行继续看好美光(MU.US)、闪迪(SNDK.US)等存储龙头,同时看好CXL互联、异构推理赛道的增量机遇,推荐Astera Labs(ALAB.US)、Marvell(MRVL.US)、Cerebras(CBRS.US)及英伟达(NVDA.US)。 大摩强调,当前 AI 内存短缺并非短期扰动,而是算力性能增长远超内存供给速度的结构性矛盾。前沿大模型规模每 6 个月翻一番,头部模型上下文窗口年增速达 5-6 倍,叠加推理并发需求持续提升,内存容量与带宽需求持续爆发。而 DRAM 晶圆厂建设周期长达数年,供给弹性极低,短缺格局将持续数年。英伟达CEO黄仁勋也公开表示,行业需要转变思路,通过架构创新应对内存约束,而非单纯等待产能扩张。 面对 HBM 与主存供给紧张,行业最直接的应对方式是选择性降低单设备内存规格(De-speccing)。以英伟达 Rubin 架构为例,单机架 LPDDR5 容量从原计划 54TB 降至 28TB,单 GPU HBM 容量从 288GB 下调至 192GB,通过降低内存堆叠高度保障整机出货量。大摩指出,降配并非消除内存瓶颈,而是将压力在内存层级间转移:削减高速本地内存后,KV 缓存等非高频数据向 NAND 存储下沉,同时跨 GPU 数据交互增加,带动对网络互联带宽的需求,本质上是以更高速的网络互联、更低成本的存储资源,补充稀缺的高带宽内存。 第二条破局路径是推理架构解耦(Disaggregation)。AI推理包含预填充(Prefill)与解码(Decode)两个差异显著的阶段:Prefill 以算力消耗为主,Decode则高度依赖内存带宽。传统架构用同一加速器兼顾两类任务,资源利用率偏低。当前行业正加速走向异构推理,将两个阶段拆分至不同硬件:算力密集型Prefill由通用GPU承担,内存带宽密集型 Decode 则由搭载大容量片上 SRAM 的专用加速芯片处理。 典型代表包括Cerebras的晶圆级引擎、英伟达收购的 Groq LPU 架构,均能在解码阶段提供远超传统 GPU 的内存带宽效率。大摩认为,异构推理将成为 AI 基础设施的重要演进方向,专精解码环节的算力厂商将获得明确的增量市场。 第三条路径是 CXL 技术重构内存体系。CXL(计算高速互联)通过高速互联实现内存的扩展、共享与池化,让内存不再绑定单一处理器,成为突破内存容量约束的核心技术路径。大摩测算,AI需求将推动 CXL 及相关内存附加芯片市场规模在 2030 年达到约 60 亿美元,远超传统 CPU 内存扩展市场体量。其核心价值在于构建分层内存架构:最高频数据保留在HBM,次高频数据放入 CXL 内存池,低频冷数据下沉至 NAND,用成本梯度匹配数据访问频率。 投资主线方面,大摩重申三大方向:一是继续超配美光、闪迪,降配源于供给短缺而非需求走弱,AI内存需求长期向上,供给缺口将持续消化产能;二是布局 CXL 与 scale-up 互联龙头 Astera Labs、Marvell;三是关注异构推理受益者Cerebras,以及通过收购Groq完善异构布局的英伟达。

相关标签

免责声明:本文内容来自公开报道与编辑整理,仅供参考。转载请注明出处;版权争议请联系本站核实处理。页面地址:http://www.gxycedu.cn/te_inform?id=ctjhit-364413

评论区

热门讨论 · 占位展示
说说你的看法…
发表评论
  • 用户
    读者6号
    给公选课当过补充材料,学生反馈终于知道为什么要学这个概念。争议话题措辞谨慎,不站队煽情,更像在认真备课。标签过滤能躲开暂时太难的,先专注自己能消化的层级。让人愿意持续学下去,而不是靠意志硬撑两天就放弃。把核心求知需求解决得很扎实。小处想得细,耐看也耐用。
    20261006 · 来自移动端
  • 用户
    赵学增
    读屏体验还有改进空间,但比很多资讯应用强,方向是对的。比如想弄懂深海高压生物怎么活,基本能找到不绕弯的解释。会区分科普简化模型和专业表述,提醒别过度脑补。导出长图给不爱装应用的长辈,关键信息还在。慢慢把常识补起来,这种不紧不慢的节奏反而更容易坚持。
    2026-10-06 21:14:21
  • 用户
    热心网友
    (快穿/)在荒诞童话里当小说,内容值得关注,期待后续更新。
    20261006

期待你的精彩发言。