Anthropic, 정부 개입 기준을 10억 달러 손실로 설정한 AI 안전 법안 조용히 추진

TREE NEWS 보도: 소식통에 따르면 Anthropic은 최첨단 AI 모델에 대한 연방 정부의 개입에 매우 높은 기준을 설정하는 AI 안전 법안 초안에 대해 미국 의원들을 대상으로 비공개 로비를 벌이고 있다. Anthropic이 초안 작성에 참여한 이 법안은 AI 모델이 “예측 가능하고 임박한 위험”을 초래할 경우에만 정부가 해당 모델의 출시나 사용을 차단할 수 있도록 한다. 이 위험은 10억 달러를 초과하는 잠재적 손실 또는 50명 이상의 사망이나 중상을 초래할 가능성으로 정의된다. 또한 법안은 규제 권한을 상무부와 연방 법원으로 엄격히 제한하고 다른 기관이 독자적으로 행동하는 것을 명시적으로 금지한다.

무슨 일이 있었나

Anthropic 대표자들은 최근 몇 주 동안 의회 사무실에 초안을 홍보해 왔다. 올해 초 발표된 회사의 “고급 AI 프레임워크”에서 비롯된 이 법안은 개발자에게 최첨단 모델을 테스트하고 평가 결과를 공개하며 독립적인 제3자 평가를 받도록 요구한다. 평가자는 상무부에 등록하고 AI 연구소로부터 보상을 받지만, 법안은 보상이 평가 결과와 연결될 수 없다고 규정한다. 평가자가 “임박한 열거된 위험”을 발견하면 72시간 이내에 상무부에 보고해야 한다. 상무부는 이후 컬럼비아 특별구 연방 지방 법원에 모델 운영 중단을 위한 법원 명령을 신청할 수 있다.

규제 조치의 세 가지 구체적인 발동 요건은 생물 무기 개발 또는 확산에 모델 사용, 개발자의 통제 상실, 모델이 사이버 공격을 가능하게 하는 경우다. 더 광범위한 사회적 영향이나 경제적 왜곡은 해당되지 않는다. 비판론자들은 이러한 조건이 너무 협소하여 Anthropic과 같은 최첨단 연구소에 사실상 법적 보호막을 제공한다고 주장할 수 있다.

시장 영향

투자자에게 이 법안이 제정되면 주요 AI 개발자의 규제 불확실성이 크게 줄어든다. 높은 개입 기준은 대부분의 AI 모델 개발 및 배포가 정부 간섭 없이 진행됨을 의미하며, 제품 로드맵과 수익원을 방해할 수 있는 갑작스러운 규제 중단 위험을 낮춘다. 이는 Anthropic의 후원자인 Amazon과 AI 워크로드를 호스팅하는 다른 클라우드 제공업체, AI 인프라를 공급하는 Nvidia 및 기타 칩 제조업체를 포함한 AI 관련 주식에 특히 긍정적일 수 있다.

그러나 법안은 감독 권한을 상무부와 단일 연방 법원에 집중시켜 규제 프로세스를 간소화할 수 있지만 잠재적 병목 현상에 대한 우려도 제기한다. 국방부와 국가 안보 기관을 포함한 다른 기관을 독립적 행동에서 배제하는 것은 AI 관련 보안 위험에 신속하게 대응하는 능력을 제한할 수 있다. broader 기술 부문에 대해 법안은 더 예측 가능한 규제 환경으로의 전환을 시사하며 투자를 장려할 수 있지만 더 강력한 AI 안전 장치를 옹호하는 사람들의 비판을 불러일으킬 수도 있다.

암호화폐 공간에서 법안의 AI 안전에 대한 좁은 초점은 AI-암호화폐 융합을 직접 다루지 않지만, AI에 대한 더 명확한 규제 프레임워크는 규정 준수 불확실성을 줄여 분산형 AI 프로젝트에 간접적으로 도움이 될 수 있다. 그럼에도 법안의 높은 개입 기준은 딥페이크 생성이나 시장 조작과 같은 악의적 목적으로 사용될 수 있는 AI 모델에 대한 더 엄격한 감독을 요구하는 목소리를 만족시키지 못할 수 있다.

주요 시사점

높은 개입 기준: 정부는 10억 달러를 초과하는 손실 또는 50명 이상의 사망/중상을 초래하는 임박한 위험을 초래하는 경우에만 AI 모델을 차단할 수 있으며, 이 기준은 대부분의 AI 개발을 규제 간섭으로부터 보호한다.
권한 집중: 감독은 상무부와 특정 연방 법원으로 제한되며, 국방부와 같은 다른 기관은 독립적 행동에서 명시적으로 배제된다.
투자자 영향: 규제 위험 감소는 AI 관련 주식, 특히 클라우드 제공업체와 칩 제조업체를 부양할 수 있지만 안전 감독 부족에 대한 우려를 제기할 수 있다.
평가 독립성 의문: 법안은 AI 연구소가 독립 평가자에게 비용을 지불하도록 허용하지만 이해 상충을 방지하기 위한 보호 장치가 마련되어 있다.