누가 Anthropic을 멈출 수 있는가? 아무도 통치할 수 없는 AI 안전성 위기
OpenAI는 프런티어 AI 개발을 늦추자는 아이디어를 공개적으로 제안했다. Anthropic 내부에서는 연구자들이 항의의 뜻으로 사임했다. 이 두 사건을 함께 보면, 대규모 모델 연구소를 이끄는 상업적 인센티브와 그들이 공개적으로 내세우는 안전성 약속 사이의 벌어지는 균열이 드러난다.
뉴스 요약
OpenAI는 프런티어 모델 훈련에 대한 조율된 감속을 제안했고, 한 Anthropic 연구자는 안전성 가드레일에 대한 내부적 약속이 불충분하다고 묘사하며 사임했다. 사임과 제안은 고립된 사건이 아니다——단일 연구소, 규제 기관, 이사회가 채울 수 없는 거버넌스 공백의 증상이다.
왜 ‘감속’은 구조적으로 불가능한가
핵심 문제는 AI 개발이 단일 행위자의 게임이 아니라는 점이다. 한 연구소의 일방적 중단은 프런티어 역량을 경쟁사로 이전할 뿐이다. 컴퓨트 공급망——Nvidia GPU, TSMC 제조, 하이퍼스케일러 데이터센터——은 전 세계적으로 분산되어 있고 상업적 동기에 의해 움직인다. 집행 없는 감속 서약은 정책이 아니라 마케팅 문구다.
- 인센티브 불일치: 안전성 팀은 상업적 리더십에 보고하며, 그들의 권고는 무시될 수 있다.
- 규제 지연: 현재 프런티어 훈련 실행에 대해 구속력 있는 권한을 가진 관할권은 없다.
- 자기 진화 위험: 자체 훈련 파이프라인을 개선하는 모델은 감독을 위한 시간선을 압축한다.
- 인재 유출: 주요 연구소를 떠나는 안전성 연구자들은 내부 반대와 외부 책임성을 약화시킨다.
암호화폐와의 유사성
이는 탈중앙화 시스템에서의 이전 논쟁을 반영한다. 비트코인의 거버넌스는 느리고 대립적이지만 투명하다. AI 연구소는 빠르고 불투명하다. 암호화폐 업계는 검증 가능한 자제를 위한 메커니즘——멀티시그, 타임락, 온체인 거버넌스, 영지식 증명——을 10년 동안 구축해왔다. 이들 중 어느 것도 모델 훈련에 깔끔하게 대응하지는 않지만, 근본적인 질문은 동일하다. 그것이 수익성이 있을 때 무언가를 하지 않기로 어떻게 신뢰할 수 있게 약속하는가?
일부 프로젝트는 온체인 컴퓨트 레지스트리와 추론 증명을 실험하고 있으며, 이는 이론적으로 훈련 실행의 검증 가능한 기록을 제공할 수 있다. 이것들이 중요해질 만큼 빠르게 성숙할지는 미해결 질문이다.
앞으로의 전망
향후 12~24개월 동안 세 가지 전개를 예상해야 한다. 첫째, 연구소들이 출시를 경쟁하면서 더 많은 주목받는 안전성 사임. 둘째, 집행력이 부족한 자발적 업계 프레임워크. 셋째, 임계값 이상의 컴퓨트 보고 의무화를 요구하는 움직임——아마도 EU에서, 그리고 가능하다면 미국에서. 그때까지 ‘누가 Anthropic을 멈출 수 있는가?’에 대한 정직한 답은 이것이다. 권한과 의지 둘 다 가진 사람은 아무도 없다.
