비탈릭 부테린, AI 안전의 열쇠는 적대적 거버넌스일 수 있다고 말하다
TREE NEWS 보도: 이더리움 공동 창립자 비탈릭 부테린은 암호화폐와 블록체인 업계에서 오랫동안 논의되어 온 프레임워크인 적대적 거버넌스 메커니즘 설계 이론이 AI 안전에서 중요한 응용 가능성을 가질 수 있다고 제안했다. 새로 발표한 글에서 그는 더 약한 주체(principal)가 더 유능한 에이전트로부터 바람직한 결과를 이끌어내려는 구조적으로 유사한 두 가지 시나리오를 비교했다.
두 가지 시나리오, 하나의 구조적 문제
첫 번째 시나리오는 정적 알고리즘이 주체로 기능하고 인간이 더 지능적인 에이전트가 되는 경우다. 두 번째는 인간과 더 약한 대규모 언어 모델(LLM)이 주체로 기능하고, 더 강력한 LLM이 에이전트가 되는 경우다. 두 경우 모두 핵심 과제는 동일하다. 즉, 규칙을 설정하는 쪽이 그것을 실행하는 쪽보다 능력이 떨어지기 때문에, 에이전트가 자신의 목표를 추구하거나, 제약을 회피하거나, 주체가 쉽게 감지할 수 없는 방식으로 다른 에이전트와 협력할 여지가 생긴다.
부테린은 에이전트 간의 공모를 효과적으로 제한할 수 있다면 훨씬 더 나은 결과를 달성할 수 있다고 강조했다. 그는 이 통찰이 여러 모델이 상호작용하고, 서로에게 작업을 위임하며, 감시를 약화시키는 암묵적 연합을 형성할 수 있는 AI 안전으로 자연스럽게 확장된다고 주장한다.
샌드박스에서 제도로
가장 인상적인 함의는 기술적이라기보다 제도적이다. 부테린은 미래의 AI에 대한 제약이 고립된 기술적 ‘샌드박스’보다는 규칙, 권한, 재판, 기록 보관 메커니즘을 갖춘 완전한 제도 체계에 더 가까워질 수 있다고 시사했다. 다시 말해, AI 거버넌스에는 블록체인 거버넌스 연구자들이 자기 이익을 추구하는 당사자들 간의 신뢰 최소화 조정을 다루기 위해 수년간 개발해 온 것과 같은 종류의 계층적이고 적대적인 설계가 필요할 수 있다.
- 규칙: 에이전트가 할 수 있는 것과 할 수 없는 것을 정의하는 명시적 제약.
- 권한: 일방적 행동을 제한하는 계층적 권한 구조.
- 재판: 분쟁을 해결하고 위반을 감지하기 위한 메커니즘.
- 기록: 에이전트 행동을 감사 가능하게 만드는 투명한 로그.
이것이 크립토와 AI의 융합에 중요한 이유
이 논증이 주목할 만한 이유는 크립토 네이티브 거버넌스 연구를 AI의 가장 시급한 문제 중 하나, 즉 점점 더 유능해지는 시스템을 인간의 의도에 어떻게 정렬시킬 것인가라는 문제와 직접적으로 연관된 것으로 위치시키기 때문이다. 온체인 AI 에이전트, 탈중앙화 컴퓨팅 네트워크, 모델 또는 추론 마켓플레이스를 구축하는 프로젝트들은 이미 부테린이 설명하는 바로 그 기본 요소들인 권한 부여, 스테이킹 기반 책임, 검증 가능한 기록을 실험하고 있다.
그의 논지가 맞다면, AI 안전과 탈중앙화 거버넌스 사이의 경계는 상당히 흐려질 수 있다. 참가자가 적대적이고 자기 이익을 추구하며 잠재적으로 공모할 수 있다고 가정하는 메커니즘을 설계해 온 크립토의 10년 경험은 블록체인 기술의 단순한 틈새 응용이 아니라 AI 감독을 위한 기초 도구 키트가 될 수 있다.
앞을 내다보는 관점
메커니즘 설계, 탈중앙화 거버넌스, AI 정렬 연구 간의 융합은 계속될 것으로 보인다. 남은 질문은 토큰 경제에서 입증된 공모 저항 기법이 인간 주체보다 훨씬 더 유능한 에이전트를 가진 시스템으로 확장될 수 있는지다. 부테린의 프레이밍은 그 답이 더 똑똑한 샌드박스보다는 점점 더 강력해지는 모델 주위에 지속 가능한 제도, 즉 규칙, 권한, 재판, 기록을 구축하는 데 달려 있을 수 있음을 시사한다.
