从"算力受限"到"存储受限"：谷歌 的双线应对与 DDR4 再利用
* 来源 : * 作者 : admin * 发表时间 : 2026-09-27
在 SEMICON 存储器高峰论坛上，谷歌 供应链基础设施资深总监 Nikhil Cherian 指出，动态随机存取存储器供给相当紧张，谷歌 已开始把退役服务器中的 DDR4 重新回收利用，使其整合进最新世代的人工智能服务器；即便如此仍不充分，他呼吁存储器厂商加快并扩大扩产。
Nikhil Cherian 分析称，随模型规模快速膨胀，产业已从过去的"算力受限"转向"存储受限"：即便图形处理器或张量处理器算力充足，数据仍可能"喂不进去"，瓶颈落在存储环节。在混合专家模型、智能体人工智能与长上下文等架构下，键值缓存规模持续扩张，各类技术路线同时在争夺容量。据其介绍，高性能存储器已占人工智能服务器硬件物料清单成本的 75% 以上。对云服务商而言，若耗资建置的加速芯片因等待存储带宽而闲置，形同算力资本开支的浪费，因此现阶段的关注点更多落在"是否有足够的存储容量"上。
为突破瓶颈，谷歌 采取软硬件并行的路径。硬件方面，公司在同一年推出两款面向不同工作负载的定制化芯片：面向训练的 TPU-8T 与面向推理的 TPU-8I。其中 TPU-8I 为降低推理延迟，将芯片内静态随机存取存储器容量提高至三倍，高带宽存储器容量增加约 50%，以期将活跃的键值缓存尽量留在高速存储中，减少数据搬移带来的性能损失。软件方面，谷歌 持续从底层函数库、模型架构与键值缓存压缩着手，降低单位算力所需的存储容量；不过 Nikhil Cherian 亦强调，即便如此仍难以完全满足自身的业务需求。
除此之外，谷歌 已着手建立内部循环供应链：拆解退役服务器、回收仍可使用的元件，并设计专用硬件转接介面，让 DDR4 等上一代存储器也能适配新一代人工智能服务器；公司同时与存储器供应商建立长期合作，直接参与产能投资，以保障未来供给。从产业角度看，人工智能服务器的焦点原先集中于高带宽存储器与 DDR5，但在供应偏紧的背景下，上一代 DDR4 出现重新利用的需求，生命周期相应延长。这对仍保有相关产能的 南亚科、华邦电、力积电 等厂商意味着产品组合上的调整空间，具体影响仍需视各公司产品结构与规划而定。
Nikhil Cherian 分析称，随模型规模快速膨胀，产业已从过去的"算力受限"转向"存储受限"：即便图形处理器或张量处理器算力充足，数据仍可能"喂不进去"，瓶颈落在存储环节。在混合专家模型、智能体人工智能与长上下文等架构下，键值缓存规模持续扩张，各类技术路线同时在争夺容量。据其介绍，高性能存储器已占人工智能服务器硬件物料清单成本的 75% 以上。对云服务商而言，若耗资建置的加速芯片因等待存储带宽而闲置，形同算力资本开支的浪费，因此现阶段的关注点更多落在"是否有足够的存储容量"上。
为突破瓶颈，谷歌 采取软硬件并行的路径。硬件方面，公司在同一年推出两款面向不同工作负载的定制化芯片：面向训练的 TPU-8T 与面向推理的 TPU-8I。其中 TPU-8I 为降低推理延迟，将芯片内静态随机存取存储器容量提高至三倍，高带宽存储器容量增加约 50%，以期将活跃的键值缓存尽量留在高速存储中，减少数据搬移带来的性能损失。软件方面，谷歌 持续从底层函数库、模型架构与键值缓存压缩着手，降低单位算力所需的存储容量；不过 Nikhil Cherian 亦强调，即便如此仍难以完全满足自身的业务需求。
除此之外，谷歌 已着手建立内部循环供应链：拆解退役服务器、回收仍可使用的元件，并设计专用硬件转接介面，让 DDR4 等上一代存储器也能适配新一代人工智能服务器；公司同时与存储器供应商建立长期合作，直接参与产能投资，以保障未来供给。从产业角度看，人工智能服务器的焦点原先集中于高带宽存储器与 DDR5，但在供应偏紧的背景下，上一代 DDR4 出现重新利用的需求，生命周期相应延长。这对仍保有相关产能的 南亚科、华邦电、力积电 等厂商意味着产品组合上的调整空间，具体影响仍需视各公司产品结构与规划而定。
关闭返回