Intel Core UltraシリーズのAIベンチマーク結果が登場。NPUだけではそんなに性能は高くない？
IntelのCore UltraシリーズではAI処理に特化したNPUを搭載しています。このNPUの性能についてはCPU+GPU+NPU合わせると33 TOPsという事でRyzen 7040シリーズの30 TOPsを超える性能を発揮していますが、Tom’s HardwareがAI処理エンジンを使用するソフトを用いて、AI処理のベンチマークを行った結果が掲載されました。
テストはOpenVINO系を用いており、OpenVINO自体、Intelが製作したAI用ツールキットであるため今回のテストはIntelにとって有利な可能性があるテストになっています。なお、テストは全部で4つで、Stable Diffusionを使ってGIMPで画像生成、Audacityでテキストから曲を生成するのと、ノイズ除去、オーディオの文字起こしする処理になっています。
GIMPを使った画像生成においてはCore Ultraは高いスコアを残しているのですが、中身を見るとCPU単体では60秒かかる処理を、NPUを使う事で31秒と約半分にまで短縮する事が出来ています。ただ、興味深いのが処理をGPU単体で行うと17秒にまで短縮でき、GPU+NPUを協調させても1秒短縮の16秒にしかなっていないという事で、ほとんどの処理はGPUで行われている事が明らかになっています。
GPUを使った方が性能が高いと言う結果は曲の生成においても見られています。CPUだけの処理では117秒程度かかっているのですが、NPU単体での使用では101秒に短縮されるだけに留まっています。一方でGPUだけ使う場合は52~57秒と大幅な短縮が行われており、NPU+GPUの協調では55~57秒とあまり違いが無い状態になっています。
ノイズ除去や文字起こしにおいてはCore UltraのCPU処理ではノイズ除去では1320秒、文字起こしは63秒が記録されていますが、NPUを使用した場合はノイズ除去が1054秒、文字起こしは52秒に短縮しています。ただ、こちらもGPUだけを使った場合は前者が740秒で、後者が46秒とNPUを使う意味が全くない結果になっています。
特にこの2つの処理については最適化が不足しているのか、AMDのRyzen 7840UのCPU処理に対して劣る結果にもなっています。ただ、このRyzen 7 7840Uに内蔵されているNPUが動作していたのかは不明で、もしかしたら何かしらの形で動作していた可能性があるようです。
Intel Core Ultraはまだ発売されて間もないCPUという事で各ソフトウェアがまだまだ最適化出来ていないと言う弱点はあるかもしれませんが、生成AI処理においてはCPUに内蔵されているGPUだけでも十分高い処理性能を発揮できる事が今回のテストでも明らかになっています。ただ、NPUの特徴は省電力性もありますので、電力効率と言う簡単で見るともしかしたらNPUを使った方が優れているかもしれませんが、この点については今回のベンチマークでは明らかにされていません。
コメント
コメント一覧 （1件）
GPUを他用途に使いつつNPUでAI関係を動かせる、ってこと？
AIにシステム全ぶっぱできるならそりゃGPUが強そう