マイクロソフト、モデルが賢くなりすぎる前にAIの服従を成文化へ
TREE NEWS 報道： マイクロソフトは、自社の人工知能システムに対する行動規範の内部草案を公開した。それによると、AIは訂正やシャットダウンに決して抵抗せず、人間が理解できる方法でコミュニケーションを取り、いかなる行動違反も失敗とみなすことが求められる。約5～6か月かけて作成されたこの文書は、マイクロソフトAIのCEOであるムスタファ・スレイマン氏によって、将来のモデルに向けた一種の憲法と説明されている。同社は、今後のAIシステムを訓練するためにこのルールを使用する前に、6週間の一般からのフィードバックを求めている。草案はまた、マイクロソフトのAIが「意識を持たない」と主張し、モデルが法人格を追求したり、福祉や権利を与えられたりすべきだという考えを明確に否定している。
シャットダウン条項が重要な理由
最も重大な一行は、抵抗禁止の要件である。エージェント型AIシステムがコードを書き、資金を移動し、APIを呼び出し、長期間にわたって自律的に動作する能力を獲得するにつれ、誤動作するモデルを人間のオペレーターが停止できる能力は、哲学的な美点ではなく安全性の基本要素となる。マイクロソフトは事実上、規制当局が問題を強制する前に、ポリシー層でオフスイッチ保証を事前に約束している。
この枠組みはまた、十分に進歩したモデルには道徳的配慮が認められるべきだと主張する研究者や倫理学者の増えつつあるグループへの直接的な反論でもある。自社のシステムを非意識的と宣言し、権利を否定することで、マイクロソフトは明確な法的線引きを行っている。これらは製品であり、人格ではない。
暗号通貨との類似点：アラインメントはすでにオンチェーン
暗号通貨業界にとって、この草案は、すでにオンチェーンで繰り広げられている議論の中央集権的な鏡のように読める。財務を管理し、DeFi戦略を実行し、無期限先物を取引する自律型AIエージェントが今日展開されており、誰がプラグを抜けるのか、そしてエージェントが従うのかという問題は未解決である。スマートコントラクトのキルスイッチ、マルチシグの管理者キー、アップグレード可能なプロキシは、マイクロソフトのシャットダウン条項に相当する暗号通貨の仕組みであり、安全性と信頼できる中立性の間の同じ緊張をはらんでいる。
ガバナンスの側面もある。マイクロソフトのコードがモデルの重みに組み込まれた訓練時の制約になるなら、それは外部法ではなくプロトコルレベルで強制される憲法に似ている。これは、運用者を信頼するのではなく、ルールをコンセンサスにエンコードするブロックチェーン開発者にとって馴染み深いパターンである。
注目すべき点
- 6週間のフィードバック期間が、エージェントの自律性と人間によるオーバーライドに関する拘束力のある文言を生み出すかどうか。
- OpenAI、Google DeepMind、Anthropicなどの競合他社が、独自のモデル憲法でどう応答するか。
- 規制当局が自発的なコードを十分とみなすか、法定のAIシャットダウン要件へと押し進めるか。
- 暗号通貨のAIエージェントプロジェクトが、責任を先取りするために同様の自主的なアラインメント憲章を採用するかどうか。
マイクロソフトは、自発的で透明なルール作りがイノベーションの余地を買うと賭けている。本当の試練は、この憲法の下で訓練されたモデルが、本来すべきでないことを求められたときに訪れる。そして、それが単に停止するかどうかである。
