大規模ワークロードの処理時間を大幅に短縮

NVIDIAは、ARMアーキテクチャを採用する同社初のデータセンター向けCPU「Grace」を発表した。なお搭載システムの発売は2023年初頭を予定している。

「Grace」は、自然言語処理やAIスーパーコンピューティングなど、超高速なコンピューティング性能と大容量メモリを要求する大規模ワークロード向けに開発されたCPUで、エネルギー効率の高いARMコアと、LPDDR4よりも帯域幅が2倍、エネルギー効率は10倍も高いLPDDR5xメモリを採用する。

またCPUとGPUの接続には、第4世代のNVLink技術を用いることで、現在の主要サーバーの約30倍となる900GB/sの帯域幅を実現。さらにシステムメモリとGPUのHBMメモリはプログラムの簡素化のため、単一のメモリアドレス空間で統合されたキャッシュ コヒーレンスを提供する。

これにより「Grace」を採用したシステムは、x86 CPUをベースにした最新のNVIDIA DGXベースのシステムに比べて、10倍も高速な1兆パラメータのNLPモデルのトレーニングが可能。ちなみにNVIDIA HPCソフトウェア開発キットとCUDAおよびCUDA-Xライブラリをサポートしており、2,000を超えるGPUアプリケーションを高速化できるという。

文： エルミタージュ秋葉原編集部 池西 樹
NVIDIA Corporation： http://www.nvidia.com/