Anthropic、フロンティアAI安全法案を提案
TREE NEWS 報道： 関係者によると、AnthropicはフロンティアAIの安全性に関する連邦法案を起草し、米国の議員に非公開で提示している。草案は、モデルが公開される前に政府の介入を引き起こすリスク閾値を設定している。モデルが10億ドルを超える財産被害または50人を超える死亡もしくは重傷を引き起こす予見可能かつ差し迫ったリスクをもたらし、そのリスクがモデルによる生物兵器の製造・拡散の可能化、開発者の制御からの逸脱、またはサイバー攻撃の開始に起因する場合、政府はその公開や使用を阻止できる。
提案では、評価機関は「近期的に列挙されたリスク」を特定した後72時間以内に報告することが求められる。商務省がその認定を確認した後、裁判所に差し止め命令を求めることができる。草案はまた、他の政府機関が一方的にモデル開発、展開、内部使用を停止することを禁止している。開発者はモデルをテストし、結果を公開し、独立評価者による定期的なレビューを受けることが義務付けられる。
なぜ重要か
これはAIガバナンスにおける注目すべき瞬間である。大手AI開発者が規制についてコメントするだけでなく、自ら規制の草案を書いているのだ。Anthropicは安全性重視のラボとしての地位を確立しており、この動きはそのブランディングを立法の場に拡張するものである。また、規制が課される前にルールを形成しようとする、政策立案者との積極的な関与への業界全体の広範なシフトを反映している。
草案の構造は示唆に富む。狭く重大なトリガーを定義することで、Anthropicは広範な事前承認制度ではなく、的を絞った介入を主張している。72時間の報告期間と裁判所の差し止め命令プロセスは、適正手続きと司法の監督への願望を示唆し、他の機関の一方的行動の禁止は規制の分断に対するガードレールである。
業界への影響
他のフロンティアラボにとって、この提案は事実上の標準を設定する可能性がある。議会がその一部でも採用すれば、開発者はテスト、透明性、独立監査に関する新たなコンプライアンス義務に直面するかもしれない。それは小規模プレイヤーのコストを増大させ、厳格な評価を負担できる大規模ラボを強化する可能性がある。逆に、明確な連邦の枠組みは不確実性を減らし、州法の寄せ集めを先取りすることができる。
暗号通貨と分散型AIセクターは注意を払うべきだ。多くのWeb3 AIプロジェクトはオープンソースモデルと許可不要の展開に依存している。特定のモデルの公開を制限する法律は、オープンアクセスの精神と衝突し、一部の開発を海外や分散型ネットワークに押しやる可能性がある。同時に、オンチェーンの透明性と検証可能なコンピューティングは、法案のテストと監査の要件と整合し、コンプライアントな分散型AIインフラの機会を生み出す可能性がある。
注目すべき点
- 議員がAnthropicの草案に基づいて正式な法案を提出するかどうか、そしてそれがどのように変化するか。
- 競合ラボ、オープンソース推進派、市民社会グループからの反応。
- 商務省と裁判所が72時間の報告と差し止め命令のプロセスをどのように実施するか。
- 提案が州レベルのAI立法や国際基準に影響を与えるかどうか。
Anthropicの動きは、AIの安全性が企業の原則から立法テキストへと移行していることを示している。その結果は、フロンティアモデルがどのように公開されるかだけでなく、分散型AIや暗号通貨ネイティブのコンピューティングネットワークが規制の枠組みにどのように適合するかをも形作るだろう。
