NVIDIA Blackwell B300 GPUのTDPは1400Wに。性能はB200から50%向上
NVIDIAが2024年に発表したデータセンター向けGPUであるBlackwell B200は16896コアのCUDAコアを内蔵するB100 GPUを2枚繋ぎ合わせたチップレット型GPUでCUDAコアは合計33,792コア内蔵し、192GBのHBM3eを搭載することで生成AIの動作や学習用途において絶大な力を発揮するGPUになっています。そんなB200については1台あたり1000万円を超える価格ではあるものの、需要は非常に大きくAWSやGoogle Cloud、Microsoft Azureなどが続々と投入しています。
ただ、NVIDIAはB200よりさらに性能を向上させたBlackwell B300を2025年に投入予定と言われていますがSemianalysisによるとこのB300 GPUに関してはB200に対してスペックが大幅向上するものの、その背反として消費電力もさらに大きく増える見通しであることが明らかにされています。
B300 GPUについては現行のB200の8スタック構成のHBM3eから12スタックのHBM3eに変更される見通しで、これによりメモリーは192GBから288GBに増えるとのことです。また、メモリーの強化と共にGPUダイにも変更を加えるようで、これにより現行のB200のFP8性能である10PFLOPsからB300では15PFLOPsに向上するとのことで、AI処理に必要な学習や推論などの処理性能が50％程度向上すると考えられるとのことです。
ただ、この大幅な性能向上に伴い消費電力はB200で見られていた1枚あたり1000Wという消費電力から1400Wに増える見通しです。このB200では性能が50%増えているのに対して消費電力は40%増しに留まっているため効率は上がっていると言えますが、依然としてAI向けに特化したデータセンター設置時の課題としてはグラフィックスカードが必要とする膨大な消費電力と排熱に必要な消費電力の両方を賄えるだけのインフラが必須になると言えそうです。また、今後このようなデータセンターが各国で多く建設されることが予想されていますが、その際にはインフラへの負荷なども心配されます。
Nvidia’s Christmas Present: GB300 & B300 – Reasoning Inference, Amazon, Memory, Supply Chain | Semianalysis
コメント