Anthropic, 프론티어 AI 안전 법안 제안
TREE NEWS 보도: 관계자들에 따르면 Anthropic은 프론티어 AI 안전에 관한 연방 법안 초안을 작성하여 미국 의원들에게 비공개로 제시하고 있다. 초안은 모델이 출시되기 전에 정부 개입을 촉발할 위험 임계값을 설정한다. 모델이 10억 달러 이상의 재산 피해 또는 50명 이상의 사망이나 중상을 초래할 예견 가능하고 즉각적인 위험을 제기하고, 그 위험이 모델이 생물무기의 생성 또는 확산을 가능하게 하거나, 개발자의 통제를 벗어나거나, 사이버 공격을 시작하는 데서 비롯된 경우, 정부는 모델의 출시나 사용을 차단할 수 있다.
제안은 평가 기관이 ‘단기 목록 위험’을 확인한 후 72시간 이내에 보고하도록 요구한다. 상무부가 발견을 확인하면 법원에 금지 명령을 신청할 수 있다. 초안은 또한 다른 정부 기관이 일방적으로 모델 개발, 배포 또는 내부 사용을 중단하는 것을 금지한다. 개발자는 모델을 테스트하고 결과를 공개하며 독립 평가자의 정기 검토를 받아야 한다.
중요한 이유
이는 AI 거버넌스에서 주목할 만한 순간이다. 선도적인 AI 개발자가 규제에 대해 논평하는 것뿐만 아니라 자체적인 규제 버전을 작성하고 있다. Anthropic은 안전 중심 연구소로서의 입지를 구축해 왔으며, 이번 조치는 그 브랜딩을 입법 영역으로 확장한다. 또한 규칙이 부과되기 전에 규칙을 형성하려는 정책 입안자들과의 적극적인 engagement로의 광범위한 업계 전환을 반영한다.
초안의 구조는 시사하는 바가 크다. 좁고 심각한 트리거를 정의함으로써 Anthropic은 광범위한 사전 승인 제도보다는 표적화된 개입을 주장하고 있다. 72시간 보고 기간과 법원 금지 명령 절차는 적법 절차와 사법적 감독에 대한 열망을 시사하며, 다른 기관의 일방적 행동 금지는 규제 분절에 대한 가드레일이다.
업계 영향
다른 프론티어 연구소들에게 이 제안은 사실상의 표준을 설정할 수 있다. 의회가 일부라도 채택하면 개발자들은 테스트, 투명성, 독립 감사에 관한 새로운 컴플라이언스 의무에 직면할 수 있다. 이는 소규모 플레이어의 비용을 증가시키고 엄격한 평가를 감당할 수 있는 대규모 연구소를 강화할 수 있다. 반대로 명확한 연방 프레임워크는 불확실성을 줄이고 주법의 파편화를 선점할 수 있다.
암호화폐 및 분산형 AI 부문은 주목해야 한다. 많은 Web3 AI 프로젝트는 오픈소스 모델과 무허가 배포에 의존한다. 특정 모델의 출시를 제한하는 법은 개방 접근의 정신과 충돌할 수 있으며, 일부 개발을 해외나 분산형 네트워크로 밀어낼 수 있다. 동시에 온체인 투명성과 검증 가능한 컴퓨팅은 법안의 테스트 및 감사 요구 사항과 일치하여 규정을 준수하는 분산형 AI 인프라의 기회를 창출할 수 있다.
주목할 점
- 의원들이 Anthropic의 초안을 기반으로 공식 법안을 발의하는지, 그리고 어떻게 변경되는지.
- 경쟁 연구소, 오픈소스 옹호자, 시민 사회 단체의 반응.
- 상무부와 법원이 72시간 보고 및 금지 명령 절차를 어떻게 시행할지.
- 제안이 주 차원의 AI 입법이나 국제 표준에 영향을 미치는지.
Anthropic의 움직임은 AI 안전이 기업 원칙에서 입법 텍스트로 이동하고 있음을 시사한다. 그 결과는 프론티어 모델의 출시 방식뿐만 아니라 분산형 AI와 암호화폐 네이티브 컴퓨팅 네트워크가 규제 환경에 어떻게 맞춰지는지도 형성할 것이다.
