AIスタートアップ企業がゲーミングGPUを大量購入中。AI専用GPUの調達が困難なため。

AI専用GPUの調達が困難で高コストなため、AIスタートアップなど一部企業がゲーミングGPUをAI向けに大量購入中

ChatGPTやStableDiffusion、MidJourneyなどが火付け役となった生成AIブームは加熱しており、2023年6月以降生成AIの学習などで高い性能を発揮するNVIDIA Hopper H100などは1枚辺り300万円と言う価格で、利上げなどで不景気が囁かれる中でもMicrosoftをはじめとする大手企業は数百億円規模の購入に踏み切っています。その、結果として需要に対してこれらのAI向けGPUの供給が追い付かず、Hopper H100の取引価格は大きく高騰しているほか、納期についても1年程度と伸びているのが現状になっています。

そのため、限られた大企業以外これらのGPUの購入は難しくなっているため、AIスタートアップ企業などは苦肉の策としてゲーミング向けGPUの大量購入に走り始めているようです。

AMD (unlike Qualcomm) is a joy to buy chips from. 7.38 PFLOPS of compute was delivered today, with exaflops more to come.

Nice to see them more active on the ROCm GitHub, we are working on the layer above @__tinygrad__ pic.twitter.com/5yE11TVA5F

— George Hotz 🌑 (@realGeorgeHotz) August 1, 2023

PS3をクラックし一躍有名になったGeorgeHotz氏が立ち上げたAIスタートアップ企業であるComma AIのCEOであるGeorgeHotz氏がTwitter上で大量のRadeon RX 7900 XTXを購入している画像を掲載しており、現在は7.38 PFLOPSで今後はExaflopsを目指す事を明らかにしています。

この7.38PLOPsについてはFP16なのかFP32なのかは不明ですが、FP16の場合は60基、FP32の場合は120基のグラフィックカードが必要となりますが、GeorgeHotz氏が目指す1EFLOPsにはFP16であれば合計約8100基、FP32であれば合計1.6万台のグラフィックカードが必要となります。

AI用途で言うとNVIDIA製グラフィックカードが非常に有名ではありますが、GeorgeHotz氏はあえてRadeonを選んでいます。この理由としてはAIワークロードでは大量のメモリ容量が必要となるのですが、Radeon RX 7900 XTXについては24GBのメモリー容量を搭載している他、NVIDIAで同等のメモリー容量を持つのはGeForce RTX 4090で価格はRadeon RX 7900 XTXに対して1.5倍程度高価になります。

また、AMDのグラフィックカードについてはNVIDIAより人気が無い事から入手難易度はNVIDIAに比べると明らかに低くなっている事ももう1つの理由になっています。

なお、この動きについてはGPUでマイニングが流行った2020年の時の様にマイナーが大量購入からの転売ヤーが買い占めと言うような急激な供給不足に陥る可能性は現時点では低いと言えます。と言うのもスタートアップ企業などは量販店で大量買い付けを行うのではなく、代理店を経由して購入が行われるため店頭向けの供給とは別ルートで仕入れが行われます。ただ、今後生成AI向けGPUの需要が非常に高くなればNVIDIAもAMDもコンシューマー向けGPUに対してメモリー容量などを増やしたエンタープライズ向け、例えばNVIDIAのRTXシリーズなどを優先的に生産するなど影響は見られると考えられるます。

そのため、直ちに影響はないものの消費者としては生成AIブームがコンシューマー向けGPUの需要にどのような影響を与えるのか動向を注視しておく必要がありそうです。