NVIDIA 正式发布了新一代 GH200 Grace Hopper 超级芯片平台，全球首款采用 HBM3e 高带宽内存，可满足全球最复杂的生成式 AI 负载需求。

        NVIDIA于2022年3月推出了Grace Hopper超级芯片，首次将CPU和GPU集成在一块主板上，但直到今年5月才量产。

        其中，Grace CPU拥有72个Armv9 CPU核心，198MB缓存，支持1TB/s高带宽LPDDR5X ECC内存，还支持PCIe 5.0。

        Hopper GPU采用台积电4nm定制工艺，800亿个晶体管，集成18432个CUDA核心、576个Tenor核心、60MB L2缓存，支持6144位HBM高带宽内存。之前的版本配备了96GB HBM3。

        在双路配置系统中，两颗新一代GH200超级芯片可带来144个CPU核心、8PFlops（每秒8千万亿次浮点计算）的AI性能、282GB HBM3e内存，容量是目前的3.5倍，带宽高达10TB /s 也是当前的 3 倍。

        基于NVLink高速总线，GH200超级芯片可以不断扩展互连，GPU可以访问所有CPU内存，双路配置下总容量可达1.2TB。

        NVIDIA没有透露HBM3e使用的是哪家供应商，很可能是SK 海力士。

        首款基于 GH200 超级芯片的系统将于 2024 年第二季度发货。

        顺便说一句，AMD Instinct MI300A和MI300X AI加速器分别配备128GB和192GB HBM3，后者的带宽超过5TB/s。