一部企業が焦って買ったNVIDIA Hopper H100を注文取消しや売却を試みている模様。入手性改善やクラウドのほうがコスパが良いため？
NVIDIAのHopper H100などと言ったグラフィックカードは生成AIなどを開発する上では必要不可欠で、これらの生成AI動作にも必要ですが、その前段階の学習においても大量のグラフィックカードが必要となります。そのため、このような生成AIを開発する企業やスタートアップなどはHopper H100など高性能なグラフィックカードを大量に求めた結果、2023年秋以降はHopper H100は注文から納品まで1年近いリードタイムが必要になるとも言われていました。
Briefing: Nvidia GPU Buyers Offload Chips As Supply Crunch Cools — The Information
しかし、2024年に入るとHopper H100のリードタイムは半分の3~4か月程度に短縮されたことが明らかになったのですが、The Informationによると、この入手性の改善などに伴いHopper H100を焦って買った企業が、このグラフィックカードを売却したり、未納分の注文を取り消し始めているようです。
このHopper H100については稼働させるにはシステムを構築する必要があることや、構築しても消費電力や冷却、メンテナンスなど多くのコストがかかってしまいます。一方で、ここ最近ではAWSなどクラウドサービスプロバイダーなどがHopper H100などをクラウド上で短期間貸し出すサービスなどを提供し始めているため、小規模な開発で使うなどの用途では自前でHopper H100を揃えるよりクラウドを利用した方がコストが有利になることから一部企業では売却や注文取消しが進んでいるようです。
ただし、この動きがNVIDIAのAIブームの終焉を意味するものではありません。OpenAIなどの大手企業では、生成AIの開発に必要なグラフィックカードが依然として不足しています。これらの企業では数十万台のグラフィックカードが必要であり、納期が数ヶ月先である上、需要が供給を上回っているため、価格は高いままです。一方で、小規模な開発を行う企業についてはクラウドベースのサービスを利用することが可能になりつつあるなど生成AI開発は大企業しかできないというアンバランスな状況は改善に向かいそうです。
コメント