メモリの壁がAI最大のボトルネックに
TREE NEWS 報道： AIインフラのブームは、厳しいアーキテクチャ上の限界に直面している。メモリ帯域幅と容量の伸びは、モデルサイズの伸びに比べてはるかに遅い。2026年AIインフラサミットでは、Micron、Samsung、SK Hynix、Broadcom、Marvell、Intel、Qualcomm、OpenAI、AWS、Googleといった主要チップメーカー、クラウドプロバイダー、AIラボが一つのコンセンサスに収斂した。メモリとストレージを専用の階層に disaggregate（分離）することが、今や最も現実的な道筋である。
Transformerモデルは約2年ごとにサイズが倍増し、その期間で約240倍に成長した一方、メモリ帯域幅と容量は約2倍しか増えていない。この広がり続けるギャップ、いわゆる「メモリの壁」により、従来のGPU中心アーキテクチャはますます持続不可能になっている。業界は生の計算能力（FLOPs）から、tokens per watt（トークン/W）やtokens per dollar（トークン/$）といった効率指標へと移行しつつある。
新しいメモリ技術が主役に
Qualcommは、LPDDRメモリを計算チップ上に直接積層するHigh Bandwidth Compute（HBC）ソリューションを発表した。SRAM比で約200倍の容量/W、HBM比で6倍の帯域幅/Wを実現する。SamsungのzHBMも同様の3D DRAM積層アプローチを採る。SK Hynixは3つの専用メモリ階層を強調した。メモリ集約型ワークロード向けのPIM（processing-in-memory）は、SRAM比でラック当たり288倍の容量を提供する。長文コンテキスト向けのHBF（high bandwidth flash）は、HBMの約10倍の容量を持つ。そしてSALT-KVは、階層間で温度を考慮したKVキャッシュスケジューリングを行うソフトウェアソリューションだ。
オープンインターコネクトとカスタムシリコン
Ethernetはスケールアウトネットワーキングでの優位を固めており、Broadcomは全層でこれを推進している。スケールアウト向けのTomahawk 6（102.4T）、スケールアップ向けのThor Ultra NICとESUN、クロスドメインインターコネクト向けのJericho 4で、いずれもオープンアーキテクチャだ。MarvellはエンドツーエンドのカスタムXPUアタッチ、全光インターコネクトキット、マルチプロトコル対応（UALink、NVLink Fusion、ESUN）を提供する。Astera Labsは標準PCIeを活用し、ScorpioとLeoチップでインターコネクトおよびメモリソリューションを構築している。
オープン標準の進展と歩調を合わせてカスタマイズも増加しており、ハイパースケーラーは特定ワークロードに最適化したシリコンを求めている。このトレンドはBroadcom、Marvell、Astera Labsのような、製品ポートフォリオがこうした変化に直接合致する企業に恩恵をもたらす。
製造のスピードと信頼性がチップ設計と並ぶ重要課題に
サミットの主要テーマの一つは、time-to-marketとシステム信頼性が今やチップ設計そのものと同様に重要だという点だった。AWSは、テスト能力を展開規模に合わせ、製造を展開拠点と同一立地にすることで、シリコン後のテストと安定化を6〜9か月から短縮した。ネイティブPyTorch対応や最小コードでのHugging Faceポータビリティを含むソフトウェア共同設計が、チップからアプリケーションへの道を加速している。
市場への示唆
メモリの disaggregation と効率優先の指標への移行は、半導体投資家に深い影響を与える。専用メモリソリューション（Micron、Samsung、SK Hynix）、カスタムシリコン（Broadcom、Marvell）、インターコネクト（Astera Labs）を提供する企業は、データセンターアーキテクチャの進化に伴い恩恵を受ける立場にある。tokens/Wとtokens/$の重視は、電力効率とトークン当たりコストが主要な競争差別化要因となることを意味し、GPU、ASIC、メモリベンダー間の市場シェアを再編する可能性がある。
クラウドプロバイダーにとって、カスタムシリコンを迅速に展開し反復できる能力はコスト削減とマージン改善をもたらす可能性があるが、より深い垂直統合とソフトウェア専門性も必要とする。オープンインターコネクトのトレンドは、NVLinkのような独自ソリューションへの依存を減らし、より競争的なエコシステムを育むかもしれない。
投資家向けの重要ポイント
- メモリの disaggregation が新たな主戦場：専用メモリ階層（PIM、HBF、HBC）と先進パッケージング（3D積層）を提供する企業は成長が期待される。
- 効率指標が重要：tokens/Wとtokens/$が調達判断をますます左右し、優れた電力効率を持つベンダーが有利になる。
- オープンインターコネクトが勢いを増す：Ethernetとオープン標準が独自ファブリックを置き換える中で、Broadcom、Marvell、Astera Labsは有利な立場にある。
- スピードと信頼性が差別化要因：AWSの短縮されたテストサイクルは、システムレベルエンジニアリングとソフトウェア共同設計の重要性を浮き彫りにする。
- カスタムシリコン需要が上昇：ハイパースケーラーの tailored チップへの動きは、ASIC設計者とIPプロバイダーに恩恵をもたらす。
AIモデルが拡大を続ける中、 disaggregation と効率向上を通じてメモリの壁を打破する業界の能力が、AIインフラ構築のペースと、半導体サプライチェーンにおける勝者を決めるだろう。
