誰がAnthropicを止められるのか？誰も統治できないAI安全性の危機
OpenAIはフロンティアAI開発の減速というアイデアを公に提起した。Anthropicの内部では、研究者たちが抗議の意を示して辞任した。この二つの出来事を合わせて見ると、大規模モデルラボを駆り立てる商業的インセンティブと、彼らが公に唱える安全性へのコミットメントとの間に広がる亀裂が浮き彫りになる。
ニュースの要点
OpenAIはフロンティアモデル訓練に関する協調的減速を提案する一方、Anthropicの研究者は安全性ガードレールへの内部コミットメントが不十分だと述べて辞任した。辞任と提案は孤立した出来事ではない——単一のラボ、規制当局、取締役会では埋められないガバナンスの空白の症状なのだ。
なぜ「減速」は構造的に不可能なのか
核心的な問題は、AI開発が単独アクターのゲームではないことだ。あるラボによる一方的な一時停止は、フロンティア能力を競合他社に移すだけである。計算資源のサプライチェーン——NvidiaのGPU、TSMCの製造、ハイパースケーラーのデータセンター——は世界規模で分散しており、商業的動機に突き動かされている。執行を伴わない減速の誓約はマーケティングの文言であり、政策ではない。
- インセンティブの不一致： 安全性チームは商業的リーダーシップに報告し、その勧告は覆される可能性がある。
- 規制の遅れ： 現在、フロンティア訓練実行に対して拘束力のある権限を持つ管轄区域は存在しない。
- 自己進化のリスク： 自身の訓練パイプラインを改善するモデルは、監督のための時間軸を圧縮する。
- 人材の流動： 主要ラボを去る安全性研究者は、内部の異議申し立てと外部の説明責任を弱める。
暗号資産との類似性
これは分散型システムにおける以前の議論を反映している。ビットコインのガバナンスは遅く対立的だが、透明である。AIラボは速く不透明だ。暗号資産業界は、検証可能な自制のためのメカニズム——マルチシグ、タイムロック、オンチェーンガバナンス、ゼロ知識証明——を10年かけて構築してきた。これらのいずれもモデル訓練にきれいに当てはまるわけではないが、根底にある問いは同一である。それが利益を生むとき、何かをしないことにどうやって信頼できる形でコミットするのか？
一部のプロジェクトはオンチェーンの計算レジストリと推論アテステーションを実験しており、理論的には訓練実行の検証可能な記録を提供できる。これらが重要になるほど速く成熟するかどうかは未解決の問いである。
今後の展望
今後12〜24か月で3つの展開を予想すべきだ。第一に、ラボが出荷を競う中で、より注目を集める安全性研究者の辞任。第二に、執行力を欠く自主的な業界フレームワーク。第三に、しきい値を超える計算報告の義務化を求める動き——おそらくEUから、そして可能性としては米国から。それまでは、「誰がAnthropicを止められるのか？」に対する正直な答えはこうだ。権限と意志の両方を持つ者はいない。
