NvidiaがエージェントAI向けに構築されたフルスタックアーキテクチャ「Vera Rubin」を発表
TREE NEWS 報道： Nvidiaの副社長Ian Buck氏は、同社の次世代Vera Rubinプラットフォームの詳細を明らかにし、来るエージェントAI時代に向けたゼロからの再設計であると説明した。このプラットフォームは、Vera Rubin NVL72ラックシステム、Nvidia独自のOlympusコアをベースにした新しいVera CPU、超低遅延推論のためのGroq LPUベースのアクセラレーション、BlueFieldを活用したスマートストレージ、動的電力管理のためのMaxLPSソフトウェアを組み合わせている。
Buck氏の中心的な主張は、AIハードウェアの経済性が書き換えられつつあるということだ。トークンあたりのコストを下げる最も効果的な方法は、GPU価格を下げたり安価なネットワーキングを使ったりすることではなく、世代ごとに10倍から30倍の性能向上を実現することであり、それがデータセンター全体で処理されるすべてのトークンのコストを直接削減する。
チャットからエージェントへ：100倍のコンピュートショック
Buck氏はワークロードプロファイルの根本的な変化を強調した。2023年当時のChatベンチマークは、MLPerf Inferenceの基礎を形成したが、約1Kの入力トークン、4KのKVキャッシュ、そして約3ラウンドの人間参加型会話を想定していた。エージェントAIは人間をループから完全に排除する。AgentXベンチマークでは、平均入力サイズは142,000トークンに達し、KVキャッシュは100万トークンのコンテキストをサポートするために膨れ上がり、純粋な数値でコンピュート需要は100倍に増加した。
エージェントは人間の読み取りやタイピングを待つことなく、自らプロンプトを生成し推論ステップを連鎖させるため、データセンターはもはや人間のレイテンシをスケジューリングバッファとして頼ることはできない。その結果、ほぼ連続的で高強度の利用率となる。
新しい指標：メガワットあたりのトークン数
Buck氏は、業界の主要業績評価指標が単一チップのFLOPsからメガワットあたりのトークン数へと移行しつつあると主張した。これはデータセンターが電力をどれだけ効率的に収益に変換するかの尺度である。この指標において、Vera RubinはGrace Blackwellと比較して最大30倍のAIファクトリースループット向上を実現し、一部のシナリオでは60倍に達すると、SemiAnalysisのエージェントベンチマークは示している。
ラックとファームウェアの電力を動的に管理するソフトウェア層であるMaxLPSは、オペレーターが同じ電力エンベロープ内で最大40%多くのラックを展開できるようにし、ギガワット規模の施設を4,000から5,600ラックに拡張し、スループットを毎秒12億トークンに押し上げる。
市場への影響
- 半導体：NvidiaはCPU、GPU、ネットワーキング、ストレージ、電力管理を単一のプラットフォームに統合することで、その堀を広げている。チップレベルの性能に焦点を当てる競合他社は、システムレベルの効率に匹敵するのに苦労するかもしれない。
- データセンターREITと公益事業：ソフトウェア定義の電力管理は、新しい電力容量の必要性を遅らせる可能性があり、新規建設の需要を和らげる一方で、既存サイトの利用率を高める可能性がある。
- クラウドプロバイダー：Vera Rubinを早期に採用するハイパースケーラーは、トークンあたりのコストを大幅に削減できる可能性があり、最新ハードウェアへのアクセスを欠く小規模なAIクラウドに圧力をかける。
- AIアプリケーション層：より安価な推論は、より積極的なエージェント展開を支え、エンタープライズソフトウェア全体で自律型AI製品の採用を加速させる可能性がある。
- ネットワーキングとストレージ：NVLink FusionはNvidiaのインターコネクトをサードパーティのXPUに開放し、AmazonのAnnapurna LabsやスタートアップのThe Matrixを含む。これは純粋なチップ競争ではなく、エコシステムへのロックインへの移行を示唆している。
投資家向けの重要なポイント
Nvidiaはもはやチップを販売しているのではない——AIファクトリーの経済性を販売しているのだ。同社の年次ロードマップのケイデンスは、Vera RubinからVera Rubin Ultra、Feynman、Feynman Ultraへと移行し、性能向上が複利的に続くことを示しており、競合他社がトークンあたりのコストベースで差を縮めることを難しくしている。
投資家は3つの点に注目すべきだ：Oracle Cloud Infrastructureなどの主要クラウドプロバイダーによるVera Rubinの採用、MaxLPSスタイルの電力管理がデータセンターの設備投資を再形成するペース、そしてGroq LPUの統合が超低遅延推論において持続可能なニッチを生み出すかどうか。より広いメッセージは、エージェント時代においては、コンピュート効率——チップ価格ではなく——が決定的な競争変数であるということだ。
