人工知能
AIハードウェアへの投資：CPUからXPUまで
Securities.io を Google の優先ソースに追加
AIハードウェアへの投資: ピックとシャベルのアプローチ
AIは過去数十年で経済、生産システム、社会において最も重要な変化になると期待されており、インターネットがもたらした根本的な変化さえも比較すると取るに足らないものになる可能性があります。
それはドライバー、翻訳者、カスタマーサポート、ウェブデザイナーなど、全く新しい職種が消滅する可能性があります。他の職種では、プログラマー、エントリーレベルの弁護士、診断医などの需要が急激に減少するかもしれません。
同時に、他の多くのタスクに対して大きな付加価値と生産性を創出し、支配的なAIソフトウェア企業がかつて想像もできなかった市場資本額に到達することが予想されます。
これらすべての理由から、資本市場と投資家はAIに魅了され、AIにおける多くのテックジャイアントの進捗や、中国のテックジャイアントであるAlibabaやスタートアップのDeepSeekからの強力な競争にも大きな関心を寄せています。
AIブームで利益を得るもう一つの方法は、金鉱のすべてで機能した戦略、すなわち「金を探すのではなく、ピックとシャベルを売る」ことです。これは、AI最適化ハードウェアの販売に最適な位置にいた企業、特にNvidia (NVDA ) が、ゲーム用グラフィックカードをAIトレーニングチップへと転換し、世界で最も価値のある企業となり、驚異的な4兆ドルの時価総額を突破したことからも明らかです（完全なNvidiaレポートへのリンクをご参照ください）。
AIは他の従来のコンピューティングタスクとは大きく異なる非常に特化したハードウェアを必要とし、かつ巨大なビジネスチャンスであるため、半導体産業は現在、AIプログラムのトレーニングと実行に特化した新しいハードウェアの開発競争を繰り広げています。
Nvidiaが依然としてこの分野のトップ企業の一つである可能性は高いですが、代替技術が台頭しており、早期に注目する投資家にとって興味深い機会を提供する可能性があります。
AIが専門ハードウェアを必要とする理由
多数の小規模計算
AIの初期段階では、他のプログラムと同様の計算能力が使用され、主にCPU（Central Processing Unit）に焦点が当てられていました。CPUは依然として重要ですが、現在主流のAI開発手法には最適ではないことがすぐに明らかになりました。
ニューラルネットワークや類似の手法は、非常に複雑な単一計算よりも、比較的単純な計算を多数並行して実行することを必要とします。そのため、数多くの小さなチップが並列に動作する方が、巨大で高性能なCPUよりも一般的に優れています。
このことがGPUが急速に普及した大きな理由です。グラフィックカードは本質的に多数の小規模計算を並列に実行するよう設計されています。
現在のAIトレーニングは主にニューラルネットワークに基づいており、2024年に物理学のノーベル賞を受賞した概念です。
出典: Nobel Prize
AI技術の第二の革命は「トランスフォーマー」です。トランスフォーマーは、従来のニューラルネットワークが抱えていた長いデータシーケンスを効率的に処理できないという課題を解決します。
2017年にGoogleの研究者によって初めて導入されたこの技術が、現在のAI能力爆発の根本原因となっています。トランスフォーマーはChatGPTを含むLLM（大規模言語モデル）などのAI製品の中核を成しています。
異なる要件
AIワークフローにおいて重要な区別の一つは、ファインチューニングと推論の違いです。両者はハードウェア要件が大きく異なります。
- ファインチューニングは、ドメイン固有データでモデルを再学習させる作業であり、膨大な計算力とメモリを必要とします。非常に技術的なタスクであり、AI科学の最前線に位置します。
- 推論は、既に学習済みのモデルを用いて出力を生成する作業で、計算リソースは少なくて済みますが、低レイテンシとコスト効率が重要です。
- これは、AI専門家が既存モデルを実際の課題解決に展開する際に日常的に行われます。
したがって、コストはファインチューニング／トレーニングと推論の両方で当然の懸念事項ですが、トレーニングは最高性能のハードウェアが必要になる一方、利用側はハードウェアコストとエネルギー消費に重点が置かれます。
CPUとGPUの比較
Central Processing Units (CPUs):
CPUは汎用的で、AI専用ハードウェアではありませんが、AIシステムにおいて命令実行や基本的な計算を行う上で依然として不可欠です。
AIシステムの最終ユーザー向けインターフェースを処理するソフトウェアの多くはCPU中心であり、個人コンピュータでもクラウドベースのソフトウェアでも同様です。
出典: AnandTech
CPUは、専用ハードウェアが不要な非常にシンプルなAIにも利用できます。これは、出力が緊急性を要さず、CPUの比較的遅い処理速度が問題とならない場合に特に当てはまります。
したがって、データと計算量が小さくバッチサイズも小さいモデルはCPU上で十分に機能します。CPUが一般的なコンピュータに広く搭載されていることから、AI専用ハードウェアに投資したくない一般ユーザーにとっても適した選択肢です。
CPUは信頼性と安定性にも優れ、エラーが許容できない重要タスクに適しています。
最後に、CPUはデータロード、フォーマット変換、フィルタリング、可視化など、AIトレーニングの一部タスクでも他のハードウェアと協調して有用です。
Graphics Processing Units (GPUs):
GPUはもともとグラフィックレンダリング向けに設計されましたが、並列処理に優れているため、大規模データセットを扱うAIモデルのトレーニングに最適です。CPUからGPUへ切り替えることで、トレーニング時間は数週間から数時間へと短縮されました。
GPUは広く入手可能であり、IT専門家が扱い慣れていることから、AI研究をスケールアップするために最初に導入された計算ハードウェアの一つです。
出典: Aorus
GPUの成功を支えたもう一つの要因は、Nvidiaが開発したCUDAです。CUDAはNvidia GPU向けの汎用プログラミングインターフェースで、ゲーム以外の用途への扉を開きました。これは、一部の研究者が既にGPUをスパコンの代わりに計算に利用していたことが背景にあります。
「研究者はGeForceというゲームカードを購入し、コンピュータに追加するだけで、実質的に個人用スパコンを手に入れたのです。
分子動力学、地震処理、CT再構成、画像処理――さまざまな分野で活用されています。」
現在でもGPUはAIハードウェアの中で最も需要が高く、Nvidiaはギガワット規模のAIデータセンターを構築するテックジャイアントの需要を満たすべく、供給に苦慮しています。
また、Nvidiaが最近発表したGB200 NVL72により、「スーパーGPU時代」の幕開けでもあります。
このハードウェアは、複数の小型GPUをネットワークで接続する代わりに、工場出荷時点で単一の巨大GPUとして設計されており、従来の記録的なH100モデルを上回る性能を発揮します。
出典: Nvidia
このGPUはエネルギー効率も大幅に向上しており、AI産業がチップよりも先にエネルギー不足に直面する可能性がある中で重要です。計算とエネルギー効率が向上すれば、廃熱も減少し、過熱問題の一時的な解決にもつながります。
| ハードウェアタイプ | 最適なユースケース | 速度 | エネルギー効率 | 柔軟性 |
|---|---|---|---|---|
| CPU | 汎用タスク | 低 | 高 | 非常に高い |
| GPU | AIトレーニング・並列タスク | 高 | 中 | 中 |
| TPU | テンソル演算・トランスフォーマー | 非常に高 | 高 | 低 |
| ASIC | 単一タスク加速 | 非常に高 | 非常に高 | 非常に低い |
| FPGA | 再構成可能なAIワークロード | 中 | 中 | 高 |
ASICとAIハードウェアの台頭
Application‑Specific Integrated Circuits（ASIC）は、特定の計算タスク向けに設計されたハードウェアで、汎用的なGPUよりもさらに専門化されています。
そのため、汎用ハードウェアに比べて柔軟性やプログラマビリティは低くなります。
一般的に、設計が複雑であり、規模の経済が働きにくいためコストが高くなる傾向があります。
しかし、特定タスクに対してははるかに効率的で、はるかに少ない計算リソースとエネルギーで高速に結果を出すことができます。
ASICやその他のAI専用ハードウェアの利用は増加しており、GPUだけでは最適化できない計算が増えてきたことが背景にあります。
Tensor Processing Units (TPUs)
TPUはGoogleによって開発されました (GOOGL )。主にテンソル計算（トランスフォーマーに関連）を高速に処理するために設計されており、高スループット・低精度演算に最適化されています。
出典: C#Corner
TPUは大規模ニューラルネットワークのトレーニングにおいて高い性能、効率、スケーラビリティを提供します。
TPUはマトリックス乗算ユニット（MXU）や独自のインターコネクトトポロジーなどの専門機能を備えており、AIトレーニングと推論の加速に最適です。
TPUはGeminiやGoogleの検索、フォト、マップといったAI搭載アプリケーションを支え、10億人以上のユーザーにサービスを提供しています。
このハードウェアは、統計と膨大な計算に依存するニューラルネットワークの開発と運用を大幅に高速化します。
TPUに最適なエンドユーザータスクは、ディープラーニング、音声認識、画像分類です。
Neural Network Processors (NNPs):
ニューラルプロセッシングユニット（NPU）とも呼ばれ、脳の神経接続を模倣するよう設計されたニューラルネットワーク計算に特化したチップです。しばしばAIアクセラレータとも呼ばれますが、定義は曖昧です。
NPUはシナプス重みを通じて記憶と計算を統合し、時間とともに「学習」し、運用効率を向上させます。
NPUは乗算・加算、活性化関数、2Dデータ操作、圧縮解除用の専用モジュールを備えています。
これらのモジュールは、行列乗算・加算、畳み込み、ドット積など、ニューラルネットワークアプリケーションに特化した演算を実行します。
この専門化により、汎用ハードウェアが数千回の計算を要する処理を、NPUは1回の計算で完了できる場合があります。例えば、IBMはNPUがGPUに比べてAI計算効率を劇的に向上させると主張しています。
「テストでは、同等の電力消費でNPUの性能がGPUの100倍以上になることが示されています。」
このエネルギー効率の高さから、NPUはユーザー機器への組み込みが進んでおり、生成AIアプリのローカル処理（エッジコンピューティング）の実現に貢献しています（以下参照）。
現在、ニューロモルフィックチップを作成するために以下の手法が検討されています。
- 潜在的な強誘電性を活用する、まだ十分に理解されていない現象。
- バナジウムまたはチタンを用いた活性基板。
- メムリスタの使用、新しい電子部品で、通常の電力消費の1/800でAIタスクを実行できます。
Auxiliary Processing Unit (XPUs)
XPUはCPU（プロセッサ）、GPU（グラフィックカード／並列プロセッサ）、メモリを同一デバイスに統合した概念です。
出典: Broadcom
XPUsは広範な概念であり、データプロセッシングユニット（DPUs）、インフラストラクチャプロセッシングユニット（IPUs）、ファンクションアクセラレータカード（FACs）など、さまざまなバリエーションが含まれます。
XPUsは、AIデータセンターで増大するサブユニット間の接続性の課題を解決するものと見なされています。データ遅延が計算能力以上にボトルネックになるほどです。
本質的に、チップ（GPU、TPU、NPPなど）は実際に計算を行うだけでなく、データ待ちの時間も多く費やしています。
この技術のリーダーはBroadcom (AVGO )で、専用レポートで詳細に取り上げました。
Field‑Programmable Gate Arrays (FPGAs):
FPGAはプログラム可能なプロセッサであり、ASICに比べてはるかに柔軟かつ再構成可能です。FPGAは特定のAIアルゴリズム向けにカスタマイズでき、より高い性能とエネルギー効率を提供する可能性があります。
柔軟性はコストと引き換えとなり、FPGAは一般により複雑で高価、かつ電力消費も大きくなります。ただし、汎用ハードウェアよりは効率的であることもあります。
このため、FPGAはニッチな製品となり、柔軟性が欠点を補うケースが多いです。例えば、機械学習、コンピュータビジョン、自然言語処理などがFPGAの汎用性から恩恵を受けます。
High Bandwidth Memory (HBM):
カスタムAI中心ハードウェアの最も重要な進展は、長らく計算能力のボトルネックとなっていた「コンピューティングパワー」の分野です。
しかし、これらのシステムは高効率なサポートシステムも必要であり、その中でもメモリは重要な要素です。HBMはその名が示す通り、従来のDRAMに比べて帯域幅が大幅に高くなります。
HBMは複数のDRAMダイを垂直にスタックし、スルーシリコンビア（TSV）で接続することで実現されました。最初の世代は2013年に開発されました。
垂直スタックによりスペースが節約され、データが移動する物理距離が短縮されるため、データ転送速度が向上し、AIコンピューティングに不可欠です。
HBMは製造が複雑でDRAMより高価ですが、AIアプリケーションにおける性能と電力効率の向上がコストを正当化することが多いです。
AIデータセンターインフラ: 電力、冷却＆接続性
メモリと計算能力に加えて、AIデータセンターの補助システムも重要です。これらがなければデータは十分に高速で循環せず、チップは過熱し、利用可能な電力も不足します。
例えば、Broadcomの接続ハードウェアはAIデータセンターの拡大から大きな恩恵を受けており、Vertiv (VRT )やSchneider Electric（SU.PA）といった冷却機器サプライヤーも同様です。
電力供給も課題となりつつあり、複数のテックジャイアントが原子力エネルギーに賭けて問題解決を図っています。Microsoftが2024年に最初の動きを見せたことをはじめ、以降多くの企業が参入しています。
AIのカーボンフットプリント削減への取り組みと相まって、核エネルギーや再生可能エネルギー分野の企業、例えばCameco (CCJ )、GE Vernova (GEV )、First Solar (FSLR )、NextEra (NEE )、Brookfield Energy Partners (BEP )（各社のレポートへのリンク参照）に大きな利益が期待されます。
新興AIコンピューティング技術
量子コンピューティング
AIは膨大な計算資源を必要とするため、将来的には現在のシリコンソリューション以外のハードウェアが主流になる可能性があります。
一つの可能性は、量子コンピューティングが古典的コンピューティングよりもはるかに効率的にパターンを検出できることです。研究者がすでに探求している領域です。
量子コンピューティングは、バイナリ計算ではほぼ不可能な特定の計算を解くために利用でき、最終的にはAIに応用される見込みです。ただし、商用量子コンピュータの実用化はまだ数年先であり、広範な量子ネットワークはさらに遠い未来です。
フォトニクス
光を用いてデータを伝送するフォトニクスは、電子デバイスに比べてはるかに高速です。
量子コンピュータはエンタングルドフォトンで量子データを運ぶため、量子コンピューティングとフォトニクスは密接に関連しています。最初のハイブリッド量子‑フォトニックチップがすでに発表されています。
オルガノイド
AIがコンピュータ上で脳の神経ネットワークを模倣する一方で、研究者の中には実際の脳細胞を利用できないかと考える者もいます。
これは興味深いアイデアであり、脳が実は有機的な量子コンピュータである可能性があるという研究もあります。
この種の「コンピュータ」はオルガノイドと呼ばれ、実験室でチップ上に培養されたニューロンから構成されます。ニューロンはチップからの刺激に応じて樹状突起と接続を自己組織化します。
この技術はまだ新しく、バイオ3Dプリンティングに依存しています。
その他
「シリコン以外のコンピューティング企業トップ10」で取り上げたように、バナジウム酸化物、グラフェン、レドックスゲーティング、または有機材料など、シリコン以外の代替技術を検討しました。
それぞれが古典的シリコンベースのコンピューティングよりもはるかに高速、またははるかに低エネルギーであることを目指しています。ただし、これらはまだ比較的新しく、商業規模でAI分野を変革する可能性は次の5〜10年では低いと考えられます。
クラウドAIとエッジAI: アクセシビリティのトレンド
クラウドAI
最も強力なAIシステムは大手テック企業によって構築されており、主にクラウドを通じて提供されています。この傾向は、AI専用ハードウェアへのアクセスにも当てはまります。
このトレンドのリーダーはCoreweave (CRCW )です。同社は当初クラウドプロバイダーとしてGPUを用いた暗号通貨マイニングに参入し、現在はオンデマンドAIコンピュートを提供しています。
CoreWeaveは、AIスタートアップがテックジャイアントと競争するための重要パートナーとなっており、 Inflection AIとその$1.3B GPUクラスターの資金調達を支援しています。
「2か月前には存在しなかった会社が、現在は5億ドル規模のベンチャーキャピタルを獲得しています。
彼らにとって最も重要なのはコンピュートへのアクセス確保です。コンピュートがなければ製品もビジネスも立ち上げられません。」
AIハードウェアの純粋なプレイヤーが大手テックの自社GPU、TPU、XPUなどの開発に警戒感を示す中、CoreWeaveはNvidiaなどの最新ハードウェアへの優先アクセスを得られる可能性が高くなります。
このビジネスモデルは、特にAIトレーニングにおいて重要です。トレーニングは既に学習済みのAIを使用するよりもはるかに多くの計算リソースを必要とします。
エッジコンピューティング＆AI PC
もう一つ急速に進化しているAIコンピューティングのケースは、AIシステムの計算を現場で、できるだけ実環境に近い場所で実行する必要性です。
これは、接続が途切れた際にAIから切り離されても問題が生じないシステムや、クラウドとの往復レイテンシが遅すぎる場合に必須です。
代表的な例は自動運転車で、オフラインで環境認識を行うことが期待されています。
この種の計算はエッジコンピューティングと呼ばれ、より効率的で低消費電力のハードウェアから大きな恩恵を受けます。
AIの信頼性が向上し、DeepSeekの飛躍的な効率化により、将来的にエッジでのAI展開が一般化する可能性があります。
同様の理由で、Nvidiaが最近発表したAI PCは、ローカルで多数のAIアプリケーションを実行できるようになり、常時クラウドに接続されたAIに比べてプライバシーとセキュリティが向上します。
結論
AIハードウェアは長らくGPUと同義視されてきました。グラフィックカードはCPUなど他のハードウェアに比べてAIトレーニングに格段に効率的であり、Nvidiaとその初期投資家の財産を築きました。
GPU、特にAI向けの「スーパーGPU」は、AIデータセンター構築において重要な位置を占め続けるでしょう。しかし、これらはますます複雑で専門化されたシステムの構成要素の一つに過ぎなくなります。
トランスフォーマー演算はTPUに、ニューラルネットワークはNPPに、繰り返しタスクは専用ASICや再構成可能なFPGAに割り当てられます。
同時に、高帯域メモリ、先進的な通信コネクタ、超効率的な冷却技術が、コンピューティングコア周辺のすべての補助機能を支え続けます。
エッジコンピューティングや大規模LLM以外の小規模AIにおいては、オールインワンXPUsが科学者や自動運転車、プライバシーや検閲を懸念するユーザーにとって、ローカルでの計算手段として採用される可能性があります。
「ピックとシャベル」の販売から得られる利益は、AIゴールドラッシュが続く限り尽きることはありません。
現在Nvidiaが支配的だった時代の後、投資家はリスク分散のためにAIハードウェアポートフォリオを他の設計へと広げ、さらには世界中で増大するAIデータセンターを稼働させるために必要な貴重なギガワットを供給する電力会社にも注目すべきでしょう。
