メモリとネットワーキングが重要ボトルネックとして浮上し、AIインフラ競争は新段階へ
TREE NEWS 報道： AIインフラをめぐる競争環境は根本的な転換点を迎えている。AIワークロードがモデルトレーニングから推論、エージェント型システム、長文コンテキストのワークフローへと進化するにつれ、生の計算能力はもはや唯一の制約ではなくなっている。ネットワーク相互接続性、メモリ帯域幅と容量、そしてシステム階層間のデータ転送効率が、次世代インフラのアップグレードを決定づける変数となりつつある。
最近のAIインフラサミットで、Broadcom、Marvell、Samsung、AWSは、ネットワーキング、ストレージ、カスタムシリコンにわたる戦略を相次いで示し、統一されたシグナルを発した。AIワークロードが複雑化するにつれ、インフラは相互接続効率、メモリ容量、帯域幅、消費電力、コストを同時に解決しなければならない。
Broadcom、AIスケールアウトにイーサネットを賭ける
Broadcomは、イーサネットが大規模AIインフラの優先相互接続技術になると断固たる主張を行った。同社は、そのアーキテクチャが代替ソリューションと比べて5年間の総所有コスト（TCO）で30％以上の削減を実現するとしている。TomahawkおよびJerichoシリーズがこの戦略の中核をなし、最新のTomahawk 6は102.4 Tbpsに達し、世代ごとに帯域幅を倍増させている。
BroadcomのAIイーサネットポートフォリオは現在、ネットワークインターフェースカード（NIC）、スイッチ、ソフトウェアに及ぶ。同社は、ネットワーク効率の向上が消費電力、冷却要件、運用コストを直接削減すると主張している。
Marvell、メモリ階層の最適化を狙う
Marvellはメモリ階層の課題に焦点を当てた。AIが推論重視および長文コンテキストのシナリオへ移行するにつれ、KVキャッシュのサイズは急速に拡大し、HBMの容量限界を超える可能性がある。これによりシステムは、より低速なメモリ階層からデータを再ロードしたり、コンテキストを再計算したりすることを余儀なくされ、推論レイテンシ、メモリトラフィック、消費電力が増大する。
含意は明快だ。将来のAIインフラは、計算能力を追加するだけでなく、メモリ階層とデータ転送経路を最適化しなければならない。データは、異なる計算階層とストレージ階層をまたいでより効率的に流れる必要がある。
SamsungのHBMロードマップとZ-NANDへの野心
Samsungは積極的なメモリロードマップを示した。同社は、トレーニング需要が約3倍に成長する一方、推論需要は100倍に急増する可能性があると予想し、メモリ、ストレージ、電力、熱管理の重要性が高まるとしている。
Samsungは、HBM4EがGPUあたり16 TB/sの帯域幅を実現し、HBM4比でワットあたり性能が20％向上すると予測する。HBM5はHBM4Eの性能を倍増させると見込まれる。さらに根本的に、SamsungのzHBMは破壊的技術の可能性を秘め、HBM5比で単一GPU性能を4～8倍向上させ、ワットあたり性能を3倍改善し、熱抵抗を75～90％削減すると位置づけられている。
同社はまた、TSVスタッキングを用いたSLC NANDを採用するZ-NANDを発表した。LPDDR5 DRAMに匹敵する読み取り性能を、DRAMの約10倍のビット密度で実現すると主張しており、2028年にサンプル出荷を開始する見込みだ。
AWSとカスタムシリコンの経済性
AWSは、システム効率を高める手段としてカスタムシリコンを強調した。同社はGraviton、Inferentia、Trainiumチップにわたるポートフォリオを構築している。AWSは「単位コストあたりのメモリ帯域幅」をTrainiumの中核的な優位性として挙げ、この指標がAIトレーニングの経済性とトークン効率に直接影響すると主張している。
市場への示唆
半導体：計算中心からシステム中心への最適化への移行は、多様なAIインフラへのエクスポージャーを持つ企業に有利に働く。BroadcomとMarvellはネットワーキングとカスタムシリコンの需要から恩恵を受ける立場にある。SamsungのHBMロードマップは高帯域幅メモリ競争における地位を強固にするが、執行リスクは残る。
クラウドプロバイダー：AWSのカスタムシリコン重視は、ハイパースケーラー間で垂直統合が続くことを示唆し、時間の経過とともに商用GPUベンダーへの依存を減らす可能性がある。これはGPU専業サプライヤーのマージンを圧迫する一方、クラウドプロバイダーのコスト構造には恩恵をもたらす可能性がある。
ネットワーキングとメモリ：独自相互接続よりもイーサネットへの注目は、オープン標準の採用を加速させ、ネットワーキング機器ベンダーに恩恵をもたらす可能性がある。先進的なHBMおよびNANDロードマップを持つメモリメーカーは、持続的な需要成長に向けた立場にある。
テクノロジー全般：AIインフラがよりシステム最適化されるにつれ、AI導入の総コストは低下し、企業導入が加速し、AIアプリケーションの対象市場が拡大する可能性がある。
投資家向けの主なポイント
- GPU以外にもAIエクスポージャーを分散：ネットワーキング、メモリ、カスタムシリコンは、AIのスケーリングにとって同様に重要になりつつある。投資家は計算中心の銘柄を超えて目を向けるべきだ。
- HBMと先進メモリのロードマップを注視：Samsungの野心的な目標と競合各社の対応が、2028年までのメモリ競争環境を形作るだろう。
- イーサネット対InfiniBand：Broadcomのイーサネット推進は、データセンターのネットワーキング経済を再形成する可能性があり、機器ベンダーとクラウド事業者の双方に影響を及ぼす。
- カスタムシリコンの勢い：AWSのTrainium戦略は、ハイパースケーラーがトークンあたりコストの最適化を進めていることを示しており、この傾向は商用チップベンダーを圧迫する可能性がある。
- システムレベルの最適化が新たなフロンティア：AIインフラ競争はもはやFLOPSだけではない。スタック全体にわたるデータ移動効率が鍵となる。
