SK 海力士表示,英伟SOCAMM2 相比传统 RDIMM,量产在带宽与功耗表现上均实现显著提升。海力
下一代 AI 服务器对 DRAM 的士开始核心需求
随着 AI 发展从训练阶段逐步转向大规模推理阶段,内存子系统面临的英伟压力正发生结构性变化。传统服务器 DRAM(如 RDIMM)侧重高容量与长期运行稳定性,量产而 AI 服务器更需要解决三大核心矛盾:超大模型与内存带宽的海力瓶颈、高算力与功耗的士开始冲突、高密度部署与散热空间的英伟限制。
AI 推理与训练需要海量数据实时吞吐,HBM 虽以超高带宽见长,但成本居高不下。AI 服务器需要兼顾成本与性能,要求 DRAM 具备更高的带宽密度,同时也需要更大容量以支撑大规模并行数据处理。在当前千亿级参数、数万 token 长序列推理场景中,大模型的 KV 缓存容量呈线性增长,需求甚至远超模型参数本身。这种内存瓶颈直接导致 GPU计算单元频繁等待数据,严重制约 AI 服务的响应速度与并发处理能力。
SK 海力士技术团队认为,1c 工艺不仅可减少先进工艺开发中的试错成本,还能高效继承其 1b 工艺在高性能 DRAM 领域的既有优势。SK 海力士 DRAM 开发担当副社长金锺焕当时表示:“1c 工艺技术兼备最高性能和成本竞争力,公司将其应用于新一代 HBM、LPDDR6、GDDR7 等最先进 DRAM 主力产品群,为客户提供差异化价值。未来公司也将坚守 DRAM 市场领导力,巩固作为 AI 存储解决方案最受信赖企业的地位。”
SOCAMM2 另一大创新在于模块设计,实现 192GB 容量与 “薄型可扩展” 架构的融合。传统 RDIMM 通过在内存控制器与 DRAM 芯片之间增加寄存器(Register)或时钟缓冲器(Buffer)提升稳定性,多用于通用服务器与工作站。而 SOCAMM2 是专为 AI 数据中心与高性能计算设计的新型内存模块标准,由 NVIDIA 主导定义,联合美光、三星、SK 海力士等存储厂商共同推进。
SOCAMM2 结合了 LPDDR 技术优势与模块化、可插拔设计,可提供更高带宽、更佳能效和更灵活的系统集成,助力 AI 服务器实现更高效率与可扩展性。该方案提供可更换的模块化内存形态,同时兼顾 LPDDR 能效优势与传统内存模块的可维护性。
与传统板载焊接 LPDDR 方案不同,SOCAMM2 允许 AI 服务器在不修改主板的情况下,通过升级或更换模块扩展内存容量与性能,简化服务器生命周期管理与日常维护。通过降低内存运维复杂度与系统中断风险,SOCAMM2 有助于减少服务器停机时间,延长现有平台使用寿命,让 LPDDR 级高能效进入紧凑模块化形态,更好地适配持续演进的 AI 负载。
SOCAMM2 的量产,只是 AI 服务器低功耗 DRAM 发展的起点,未来该领域将呈现清晰的技术演进趋势。容量与带宽竞争已全面展开:美光已推出 256GB SOCAMM2,容量较 SK 海力士当前量产产品提升 33%;同时 LPDDR6 技术加速成熟,传输速率预计可达 14.4Gbps,相较 LPDDR5X 提升约 50%。
除技术竞争外,市场影响也已显现。市场研究机构 Counterpoint Research 曾在报告中指出,英伟达在 AI 服务器中采用智能手机领域低功耗内存的做法,或推动服务器内存价格在 2026 年底前大幅上涨。这一趋势已逐步兑现:目前大量 LPDDR5X 产能向 AI 领域倾斜,已对智能手机端内存供应造成明显影响。
结语
总而言之,SK 海力士 192GB SOCAMM2 的量产,本质上反映了 AI 基础设施建设思路的转变 —— 从单纯追求算力密度,转向算力与能效的平衡优化。未来,低功耗内存将与 HBM 形成互补格局:HBM 聚焦极致带宽的 AI 训练场景,SOCAMM2 则主导高能效比的推理市场,二者共同构建大模型时代的内存基石,推动 AI 技术更广泛地融入产业与日常生活。 顶: 97177踩: 775
评论专区