Anthropic、政府介入の基準を10億ドル損失に設定したAI安全法案を静かに推進

TREE NEWS 報道：関係者によると、Anthropicは最先端AIモデルに対する連邦政府の介入に極めて高い基準を設けるAI安全法案の草案について、米国議員への非公開の働きかけを行っている。Anthropicが起草を支援したこの法案は、AIモデルが「予見可能かつ差し迫ったリスク」をもたらす場合にのみ、政府がそのリリースや使用を阻止できるとしている。このリスクは、10億ドルを超える潜在的損失、または50人以上の死亡もしくは重傷を引き起こす可能性と定義されている。法案はまた、規制権限を商務省と連邦裁判所に厳格に限定し、他の機関が独自の行動を取ることを明示的に禁止している。

何が起きたか

Anthropicの代表者はここ数週間、議会事務所に草案を売り込んでいる。今年初めに公表された同社の「先進AIフレームワーク」に基づくこの法案は、開発者に対し、最先端モデルのテスト、評価結果の公表、独立した第三者評価の受け入れを義務付ける。評価者は商務省に登録し、AIラボから報酬を受け取るが、法案は報酬を評価結果に結びつけることを禁じている。評価者が「差し迫った列挙されたリスク」を発見した場合、72時間以内に商務省に報告しなければならない。商務省はその後、コロンビア特別区連邦地方裁判所にモデルの運用停止を求める裁判所命令を申請できる。

規制措置の具体的な3つのトリガーは、生物兵器の開発または拡散におけるモデルの使用、開発者による制御の喪失、モデルによるサイバー攻撃の可能化である。より広範な社会的影響や経済的歪みは対象外となる。批評家は、これらの条件が狭すぎるため、Anthropicのような最先端ラボに事実上の法的保護を与えると主張するかもしれない。

市場への影響

投資家にとって、この法案が成立すれば、主要なAI開発者にとって規制の不確実性が大幅に減少する。介入の基準が高いということは、ほとんどのAIモデル開発と展開が政府の干渉なしに進むことを意味し、製品ロードマップや収益源を混乱させる可能性のある突然の規制停止のリスクを低下させる。これは、Anthropicの支援者であるAmazonやAIワークロードをホストする他のクラウドプロバイダー、AIインフラを供給するNvidiaやその他のチップメーカーなど、AI関連株にとって特にプラスとなる可能性がある。

しかし、法案は監督権を商務省と単一の連邦裁判所に集中させるため、規制プロセスを合理化できる一方で、潜在的なボトルネックに関する懸念も生じる。国防総省や国家安全保障機関を含む他の機関を独立した行動から排除することは、AI関連のセキュリティリスクに迅速に対処する能力を制限する可能性がある。広範なテクノロジーセクターにとって、法案はより予測可能な規制環境への移行を示唆しており、投資を促進する可能性がある一方で、より強力なAI安全策を提唱する人々からの批判を招く可能性もある。

暗号資産業界では、法案のAI安全への焦点は狭く、AIと暗号の融合に直接対処するものではないが、AIのより明確な規制枠組みは、コンプライアンスの不確実性を減らすことで分散型AIプロジェクトに間接的に利益をもたらす可能性がある。それでも、法案の高い介入基準は、ディープフェイクの生成や市場操作など悪意のある目的に使用される可能性のあるAIモデルに対するより厳格な監督を求める声に応えるものではないかもしれない。

主なポイント

高い介入基準： 政府は、10億ドルを超える損失または50人以上の死亡/重傷を引き起こす差し迫ったリスクをもたらす場合にのみAIモデルを阻止できる。この基準はほとんどのAI開発を規制の干渉から保護する。
権限の集中： 監督は商務省と特定の連邦裁判所に限定され、国防総省などの他の機関は独立した行動から明示的に除外されている。
投資家への影響： 規制リスクの低減はAI関連株、特にクラウドプロバイダーやチップメーカーを押し上げる可能性があるが、安全監督の不十分さに関する懸念を引き起こす可能性もある。
評価の独立性に疑問： 法案はAIラボが独立評価者に報酬を支払うことを認めているが、利益相反を防ぐための保護措置が含まれている。