自動ニュース作成G
NVIDIA、1EFLOPSの性能で生成AI/LLM処理を加速する「DGX GH200」
https://pc.watch.impress.co.jp/docs/news/event/1504122.html
2023-05-29 13:48:44
＞NVIDIAはそのGH200を搭載したAI用スーパーコンピューター「NVIDIA DGX GH200」(以下DGX GH200)を発表した。このDGX GH200では256機のGH200を1つのGPUとして扱うことが可能で、144TBメモリ、900GB/sのGPU間帯域幅などを実現しており、AI性能としては1EFLOPS(エクサフロップス)という超弩級の性能を実現する。
＞NVIDIAが開発したプロプライエタリなインターコネクトである「NVIDIA C2C(NVLink Chip-2-Chip)」により接続される。その帯域幅は900GB/秒に達しており、これはPCI Express 5.0 x16で実現される帯域幅に比較して7倍になる。そしてこのGH200の最大の特徴は、モジュール上に搭載されるCPU側のメインメモリが最大512GB(LPDDR5X)、GPU側が96GB(HBM3)という大容量を実現していることだ。
すげーな