앤트로픽, 개발 속도 늦추기 위한 10억 달러 AI 안전 협약에 액센츄어 선정
TREE NEWS 보도: 앤트로픽(Anthropic)이 첫 ‘내장형 평가자(embedded evaluator)’로 액센츄어를 선정하며, 이 컨설팅 대기업과 그 AI 부문인 Faculty를 활용해 AI 개발 속도를 늦추도록 지원받는다. 양측은 5년간 최소 10억 달러를 이 프로그램에 투입하기로 약속했으며, 이는 모델 평가, 레드팀 활동, 정렬(alignment) 평가, 안전 가드레일 테스트에 초점을 맞춘다. 이 계약은 비독점적이며, 앤트로픽은 향후 몇 주 안에 추가 평가 파트너를 발표할 예정이다.
새로운 종류의 안전 인프라
이번 계약은 지금까지 제3자 AI 안전 작업에 대한 가장 큰 규모의 구조화된 약속 중 하나다. 앤트로픽은 내부 팀에만 의존하는 대신, 적대적 테스트와 정렬 검증을 외부의 내장형 파트너에게 사실상 아웃소싱하고 있다. 이는 전통 금융이 독립 감사인을 활용하고, 암호화폐 프로토콜이 지속적 검토를 위해 보안 업체를 점점 더 고용하는 방식과 같은 모델이다.
액센츄어에게 이 협약은 AI 거버넌스 및 리스크 서비스로의 진출을 심화시킨다. 규제 감시가 강화되는 가운데 기업들이 모델 배포를 서두르면서 빠르게 성장하는 자문 분야다. 이 컨설팅 회사의 AI 부문인 Faculty는 앤트로픽의 프런티어 연구를 보완하는 응용 머신러닝 전문성을 제공한다.
암호화폐와 DeFi에 중요한 이유
암호화폐 업계는 AI 안전 표준이 어떻게 진화하는지에 직접적인 이해관계가 있다. 분산형 컴퓨팅 네트워크, 온체인 AI 에이전트, 추론 마켓플레이스와 연계된 토큰은 아직 작성 중인 신뢰 프레임워크에 의존한다. 만약 ‘내장형 평가’가 사실상의 표준이 된다면, AI 인프라를 구축하는 암호화폐 프로젝트는 이에 상응하는 감사 추적을 입증해야 할 수 있으며, 그렇지 않으면 기업 및 기관 파트너십에서 배제될 위험이 있다.
경쟁적 측면도 있다. 개발 속도를 늦추려는 앤트로픽의 명시적 목표는 Web3 일부에서 흔한 가속주의 정신과 상충한다. 안전 우선의 규제 준수 중심 AI 스택과 무허가성의 빠르게 움직이는 온체인 에이전트로 양분될 가능성이 있다. AI 인접 암호화폐 자산에 투자하는 이들은 규제 당국과 대기업이 어느 모델을 지지하는지 주시해야 한다.
전망
- 앤트로픽이 다중 파트너 안전 레이어를 구축함에 따라 더 많은 ‘내장형 평가자’ 발표가 예상된다.
- 암호화폐로의 파급 효과에 주목하라: 온체인 AI 프로젝트는 유사한 제3자 테스트 체계를 도입해야 한다는 압박에 직면할 수 있다.
- 10억 달러 약속은 AI 안전이 단순한 연구 니치가 아니라 그 자체로 자본 집약적 산업이 되어가고 있음을 시사한다.
앞으로 몇 달간 이 모델이 책임 있는 AI 배포의 청사진이 될지, 그리고 암호화폐의 AI 부문이 적응할지 아니면 분기할지가 드러날 것이다.
