NVIDIAのAI向けGPU『Blackwell B200』は単体で1000W消費。Dellが決算発表で漏らす。

NVIDIAのAI向けGPUのBlackwell B200は単体で1000Wの消費電力に。Dellが決算発表で漏らす

2024年2月29日にDellとHPがそれぞれ決算発表を行いましたが、この2社は生成AIブームに伴い、サーバー・データセンター向け製品が堅調に推移していたことからコンシューマー向けPCの売れ行き減少で苦しんでいた決算内容から一転し、堅調な利益を確保しました。

ただ、この決算発表の中でDellはサーバー・データセンター向け製品の需要が今後も伸びる予測を明らかにしたのですが、そのコメントの中でNVIDIAの次世代AI向けGPUであるBlackwell B200に関する情報を明らかにしました。

We’re excited about what happens at the B100 and the B200, and we think that’s where there’s actually another opportunity to distinguish engineering confidence.
Our characterization in the thermal side, you really don’t need direct liquid cooling to get to the energy density of 1,000 watts per GPU. That happens next year with the B200.

Jeffrey W. Clarke CEO of Dell Technologies Inc.

DellのCEOであるJeffery Clarke氏は決算発表の場で2024年内と2025年は生成AIなどをはじめとするHPC製品ラインアップの需要が堅調に推移することを明らかにしつつ、Dellが持つ技術力でNVIDIAが将来的に発表を予定しているBlackwell B100やB200 GPUを最適なパフォーマンスで運用できる自信があると述べています。また、この話の中で1000Wの消費電力を超えるGPUは2025年投入予定のBlackwell B200で行われる事を明らかにしています。

NVIDIAはデータセンター向けGPUとしてB100 GPUの存在は公にされているロードマップで明らかにしていますが、B200についてはまだ公式資料などには載っていません。ただ、NVIDIAでは現行のHopper H100投入から1年後の2024年にHopper H200として投入を予定しているため、2024年にBlackwell B100が登場し、その翌年の2025年にBlackwell B200が登場するのは自然です。

なお、消費電力についてはBlackwell B200は1枚のGPUで1000Wと遂に大台に達する見込みで、Hopper H100の700Wから1.4倍の消費電力が必要になるようです。

生成AIなどの学習や運用にはこのような莫大なエネルギーを消費するGPUは必要不可欠なのですが、GPU単体で1000W消費するとなると、例えばChatGPTが学習や運用に使うGPUは30000枚近く必要で、仮にこのGPUにNVIDIA B200を使うと30MW(メガワット)となります。（一般家庭が夏場などで電力をフルロードで使っても3kW、つまりこれが約3万軒分・・・）

ただ、実際にAI学習などに必要となるエネルギーはGPU単体の消費電力だけではなく、システムの冷却や電力の変換にも大量の電力が必要となります。そのため、コスト面で見ても性能を上げるために消費電力も増やすというのはいずれ通用しなくなってくる気がしますが、ひとまず2025年にはたった1枚で1000W=1kWを消費するGPUを拝むことができそうです。

ソース：Dell Technologies(英語)