GoogleのAIインフラ責任者、2000億ドル規模の構築における制約要因は電力だと指摘
TREE NEWS 報道： Googleは今年、2000億ドル超を支出する見通しで、その大部分はデータセンターに向けられている。同社は人工知能の物理レイヤーの拡張を急いでいる。GoogleのAIインフラを統括するAmin Vahdat氏は、産業史上最大の資本建設プログラムと同氏が表現するものの背後にある技術的・戦略的論理を説明し、最終的に構築の速度を決定する制約はシリコンではなく電力であると特定した。
「電力は私たちが直面する最も根本的な制約だ」とVahdat氏は述べた。「他のすべては、一定の期間内に解決する方法を我々は知っているように思える。電力は長期的な拘束問題だ」
Googleを超えて重要な理由
この発言は、あらゆる資産クラスの投資家に直接的な影響を持つ。Googleが自家発電よりも系統連系を好むこと、他の料金負担者にコストを転嫁するのを避けるために送電線や変電所に資金を提供する用意があること、そして需給が数年単位でミスマッチになる可能性があることを認めていることは、すべて電力が戦略的投入物として構造的に再価格設定されることを示している。
公益事業者、独立系発電事業者、原子力開発業者、変圧器・開閉装置メーカー、系統ソフトウェアベンダーは、その需要の受け手側に位置する。逆に、電力の可用性がハイパースケーラーとそのサプライヤーの展開スケジュールに上限を課す可能性があり、ほぼ無制限のスケーリング前提で評価されてきたAI関連株のストーリーに、新たな実行リスクの源を注入することになる。
グッドプットのドクトリン
Vahdat氏はFLOPSを「虚栄の指標」として退け、実際のパフォーマンスは「グッドプット」、つまり現実世界の障害条件下で提供される有用な出力によって測定されるべきだと主張した。10万基のアクセラレータ規模では、障害は1日に複数回、おそらく1時間に複数回発生すると同氏は述べた。各障害はチェックポイントへのロールバックを強制し、有用な作業を生み出さずにコンピュートを消費する可能性がある。
この枠組みは、投資家がAI設備投資の効率をどう評価するかに重要だ。設置容量の相当な割合が障害、復旧、ソフトウェアのバグによって失われるなら、ヘッドラインのチップ出荷数や理論上のスループットは、モデルの訓練と提供に実際に利用可能な生産能力を過大評価することになる。
エージェントがデータセンターを再形成
Vahdat氏は、長期的視野のエージェントを、過去1年間でデータセンター設計に対する単一最大の構造的変化として特定した。エージェントはリクエストループから人間を排除するため、レイテンシは秒からミリ秒に圧縮され、リクエスト密度は桁違いに上昇する。決定的に重要なのは、オーケストレーションの多く、つまり応答の解析、次のアクションの決定、ローカルDRAM、リモートメモリ、SSD、HDDからのコンテキスト取得が、アクセラレータではなくCPU上で実行されることだ。
「アクセラレーテッドコンピューティングの需要は上昇しているが、CPU、ネットワーキング、ストレージの需要も爆発的に増えている」と同氏は述べた。これは、AI設備投資が本質的にGPU/TPUのトレードであるという前提に挑戦する。CPUベンダー、メモリ・ストレージサプライヤー、ネットワーキング機器メーカーは、コンセンサスが予想するよりも大きな財布のシェアを獲得する可能性がある。
TPU分割が示す推論の経済性
Googleの第8世代TPUは初めて2つのチップに分割された。推論用の8iと訓練用の8tだ。Vahdat氏はこの決定を、チップのライフタイムを通じて推論が総コンピュート需要の30%から60%を占める可能性があるという直接的な賭けとして位置づけた。両チップはもう一方のワークロードを実行する能力を保持し、予測リスクに対する柔軟性を保っている。
投資家にとって、この分割はAIスタックの中で価値がどこへ移行しているかのシグナルだ。訓練専用のワークロードから、常時稼働の推論サービスへと移行し、そこではトークンあたりのコスト、電力効率、稼働率の経済性が支配する。
光スイッチングと軌道データセンター
Googleは約15年間、光回路スイッチングを使用しており、MEMSミラーを使って電気的なパケット処理なしに光をルーティングしている。TPUクラスタでは、この技術により故障したラックをミリ秒単位で光学的に交換でき、グッドプットの損失を直接削減する。Vahdat氏はまた、Googleが軌道データセンターを正式なムーンショットとして追求していることを確認し、宇宙では利用可能な電力が約40%高く、太陽同期軌道では太陽光カバレッジが98%から100%であるのに対し地上では28%から35%であること、実効エネルギー密度が3倍から4倍有利であることを挙げた。
投資家向けの主なポイント
- ボトルネックはチップではなく電力。公益事業、系統設備、原子力、エネルギー貯蔵はハイパースケーラーの需要の直接的な受益者であり、電力の可用性はAI容量のタイムラインに対する実際の実行リスクだ。
- AI設備投資はGPUより広い。エージェントがワークロードの形を変えるにつれ、CPU、DRAM、SSD、HDD、ネットワーキング機器すべてで需要が急増している。
- ソフトウェアは主要な容量源。Vahdat氏は、ソフトウェアとモデルの最適化が、Googleが6か月ごとにトークン提供容量を倍増させる能力に、ハードウェアに劣らず貢献している可能性が高いと述べた。効率向上がハードウェア支出を部分的に相殺し得ることを思い起こさせる。
- 推論が成長市場。TPU 8i/8tの分割は、推論がコンピュート需要を支配するとの予想を反映しており、提供の経済性に露出するベンダーに有利だ。
- 障害率が重要。10万アクセラレータ規模では、日次の障害は正常だ。投資家はAIインフラの主張を評価する際、理論上のスループットではなくグッドプットを精査すべきだ。
