英伟达“地表最强AI晶片”H200，华硕受惠！HBM3e是什么？为何成H200亮点？
* 来源 : * 作者 : admin * 发表时间 : 2023-11-14
辉达（NVIDIA，英伟达）于13日推出新一代HGX H200 人工智慧GPU，采用台积电4奈米制程，推论效能为H100两倍。中国台湾厂家华硕、技嘉、鸿佰、云达等台厂受惠。
绘图晶片（GPU）大厂辉达（NVIDIA）于13日推出新一代NVIDIA HGX H200晶片，采用台积电4奈米制程。辉达指出，H200效能有相当大的跃升，在拥有700亿参数的Llama2进行推论时， 速度近乎达到H100的两倍 ，可说是地表最强大的AI晶片。辉达指出，H200预期将会在2024年第二季开始出货给AWS、Google Cloud和甲骨文等云端大厂。
辉达H200晶片2024第二季开始出货！中国台湾哪些供应商受惠？
《CNBC》指出，H200在将会在2024年的第二季开始供货，同一时间超微（AMD）的 MI300X GPU也已经问世。两者相比，MI300X将会比H200拥有更多记忆体容量，高达192GB。
不过，GPU效能除了储存空间，晶片间的互联技术也是关键。 辉达当前自有互联（interconnect）技术NVLink和NV Swithch，是辉达除了GPU设计以外另一个能达成加速运算的重要研发。 一位半导体高层指出：“辉达耗费了十几年开发这项技术，不是其他公司想追就能立刻追上。
值得一提的是，新的H200将会与H100相容。这意味着已经训练好模型的企业，若想升级装备采购H200，无需更换伺服器或是改动软体版本。台湾在地的伺服器合作伙伴包含华硕、技嘉、鸿佰、云达、纬创和纬颖等企业，皆可将处理器直接替换成H200做使用。
绘图晶片（GPU）大厂辉达（NVIDIA）于13日推出新一代NVIDIA HGX H200晶片，采用台积电4奈米制程。辉达指出，H200效能有相当大的跃升，在拥有700亿参数的Llama2进行推论时， 速度近乎达到H100的两倍 ，可说是地表最强大的AI晶片。辉达指出，H200预期将会在2024年第二季开始出货给AWS、Google Cloud和甲骨文等云端大厂。
记忆体大升级！HBM3e是什么？为何会成为H200关键亮点？
本次H200最大的关键亮点在于记忆体容量的升级，采用HBM3e的先进记忆体，储存空间高达141GB，有助于推论或进行更大的模型训练。
NVIDIA HGX H200
NVIDIA HGX H200预计将会在2024年第二季开始供货给AWS、甲骨文和谷歌等云端大厂 。随着AI模型训练的规模越来越大，晶片内对记忆体的需求也越来越高。法人认为，当前GPT-4虽然已经拥有1,750亿个参数，但推论结果仍差强人意，这意味着将来的模型训练的参数量将会持续往上攀升。
HBM是一种将DRAM堆叠后运用先进封装生产而成的记忆体，目的是在晶片有限的空间内，藉由3D立体堆叠方式增加储存容量。法人指出，SK海力士（SK Hynix）为辉达H100的供应商，不过近期美光（Micron）的HBM3e也正在验证中，有望成为辉达H200供应商。不过在本次的新品发布上，辉达并未揭露HBM3e的供应商名称。辉达H200晶片2024第二季开始出货！中国台湾哪些供应商受惠？
《CNBC》指出，H200在将会在2024年的第二季开始供货，同一时间超微（AMD）的 MI300X GPU也已经问世。两者相比，MI300X将会比H200拥有更多记忆体容量，高达192GB。
不过，GPU效能除了储存空间，晶片间的互联技术也是关键。 辉达当前自有互联（interconnect）技术NVLink和NV Swithch，是辉达除了GPU设计以外另一个能达成加速运算的重要研发。 一位半导体高层指出：“辉达耗费了十几年开发这项技术，不是其他公司想追就能立刻追上。
值得一提的是，新的H200将会与H100相容。这意味着已经训练好模型的企业，若想升级装备采购H200，无需更换伺服器或是改动软体版本。台湾在地的伺服器合作伙伴包含华硕、技嘉、鸿佰、云达、纬创和纬颖等企业，皆可将处理器直接替换成H200做使用。
关闭返回