三星与 AMD 签订 30 亿美元 HBM3E 出售协议，但当中有但书

2023 年 10 月，三星举办了 Samsung Memory Tech Day 2023 活动，宣布推出代号为 Shinebolt 的新一代 HBM3E。到了 2024 年 2 月，三星宣布已开发出业界首款 HBM3E 12H DRAM，拥有 12 层堆叠，容量为 36GB，是迄今为止频宽和容量最高的 HBM 产品。之后，三星开始向客户提供了样品，并计划 2024 年下半年开始大规模量产。
根据外媒报导，三星已经与处理器大厂 AMD 签订价值 30 亿美元的新协议，将供应 HBM3E 12H DRAM，预计会用在 Instinct MI350 系列 AI 芯片上。在此协议中，三星还同意购买 AMD 的 GPU 以换取 HBM 产品的交易，但是具体的产品和数量暂时还不清楚。
先前有市场消息指出，AMD 计划在 2024 年下半年推出 Instinct MI350 系列，属于 Instinct MI300 系列 AI 芯片的升级版本。其采用了晶圆代工龙头台积电的 4 纳米制程技术生产，以提供更强大的运算效能，并降低功耗。由于将采用 12 层堆叠的 HBM3E，也在提高传输频宽的同时，还加大了容量。
根据官方消息，三星的 HBM3E 12H DRAM 提供了高达 1280GB/s 的频宽，加上 36GB 容量之后，相较前一代的 8 层堆叠产品提高了 50%。由于采用了先进的热压非导电薄膜 （TC NCF） 技术，也使得 12 层堆叠产品与 8 层堆叠的产品有着相同芯片高度，满足当前 HBM 封装技术的要求。该技术还藉由芯片间使用不同尺寸的凸块来改善 HBM 的热性能，在芯片键合过程中，较小凸块用于信号传输区域，而较大凸块则放置在需要散热的区域，将有助于提高产品的良率。
根据三星的说法，在人工智能应用中，采用 HBM3E 12H DRAM 预计比 HBM3E 8H DRAM 的大模型训练，平均速度提高34%，同时推理服务用户数量也将增加超过 11.5 倍。对此，市场人士表示，该笔交易与三星晶圆代工的谈判是分开的。因此，先前有消息表示，AMD 将把部分新一代 CPU/GPU 交由三星晶圆代工来生产，这与该笔交易将不相关。