Microsoft Copilotをローカルで動作させるには最低40 TOPsが必要に。Intel幹部が口を滑らす
Microsoftでは2024年はWindows 11に追加されたCopilotの機能を向上させるほか、現状はすべてクラウドで処理しているものをローカルで動作させるようにすると言われています。ただ、このローカルでの動作にはAI処理を担う高性能なNeural Processing Unitが必要で、最低40~45 TOPs必要と言われていました。
そんなCopilotですが、Intelが台北で開催しているAIサミットにてIntel幹部がCopilotのローカル動作に必要なNPUの性能についてうっかり口を滑らせてしまったようです。
Intelが開催したAIサミットでは主にMeteor Lakeから搭載されているNPUの性能の重要性や今後の動向などが紹介されているのですが、このサミットの中でTom’s HardwareがIntelのクライアント・コンピューティング本部長のTodd Lewellen氏に対して質問を行う中で、まだMicrosoftが公式に明らかにしていないNPUの要件について口を滑らせています。
AI PCとしての要件について
Tom’s Hardware
AI PCは今は進化の過程にあるが、現時点では40 TOPsが必要だ
Intel CCG VC Todd Lewellen
未来のAI PCではもっと色々な事がローカルで処理できます。これはCopilotがすべてローカルで動く訳では無いが、高性能なNPUを使っていれば多くの機能が利用可能です。
Intel CCG VC Todd Lewellen
CoPilotは現時点ではすべてクラウド処理であるため、ユーザーが指示した内容を回答や操作するまで時間がかかるのが大きな弱点になっていますが、ローカルで処理することでタイムラグを大幅に減らせます。しかし、NPU性能は40 TOPs必要とのことで、Intelが現時点で投入しているMeteor Lakeは10 TOPs、AMDのRyzen 8040シリーズで16 TOPsと40 TOPsには届きません。唯一、2024年春以降に発売されるQualcommのSnapdragon X Eliteが45 TOPsでこの要件を超えられるほか、Lunar Lakeも40 TOPsを目指して開発が進められています。
ただ、この40 TOPsに満たないPCが今後もしばらく主流になると考えられるため、すべての機能がローカルで使えない訳では無く、『高性能なNPUを使っていれば多くの機能が利用可能です。』と述べている様に、MicrosoftではNPUの性能に応じて利用できる機能を制限すると言った措置が取られる可能性がありそうです。
CopilotについてはWindows 11 24H2でメインとも言える機能になると言われていますが、この機能を動作させるには40 TOPsと2024年3月時点で投入されているCPUには存在しないスペックであるなどかなり要求が高いです。
ただ、この40 TOPsと言う数値は過去のリークにてGPU含めての値に緩和されたという話もあるため、Ryzen 8040でもNPU+GPUを合わせてもギリギリ39 TOPsですが、ディスクリートGPU、例えばRTX 3060で100 TOPs程度ですのでデスクトップやゲーミングノートパソコンではCopilot機能の多くがローカルで利用できそうです。
Intel confirms Microsoft’s Copilot AI will soon run locally on PCs, next-gen AI PCs require 40 TOPS of NPU performance | Tom’s Hardware
コメント
コメント一覧 （1件）
だから、クソ11はインスコしないんだって。