델: 자율 에이전트에는 ‘강력한 제한’이 필요, 가이드라인만으로는 부족
TREE NEWS 보도: 마이클 델은 자율 AI 에이전트가 소프트한 가이드라인이 아닌 강제 가능한 강력한 제한을 필요로 한다고 경고했다. 에이전트가 인간의 승인 없이 자금을 이동하고, 트랜잭션에 서명하고, 온체인에서 행동할 수 있는 능력을 갖추게 되면서, 악의적인 행위자나 손상된 모델로 인한 결과가 기하급수적으로 커진다는 것이다. 그의 발언은 엔비디아가 하드웨어 계층에서 에이전트 행동을 제약하도록 설계된 칩 수준 시스템을 도입한 시점과 맞물려, AI 기반 시스템에 금융 및 암호화 권한을 신뢰하는 방식을 재편할 수 있다.
핵심 논거
델의 입장은 정책 문서와 런타임 프롬프트로는 불충분하다는 것이다. 에이전트가 되돌릴 수 없는 행동——스테이블코인 전송, 스마트 컨트랙트 호출, 토큰 허용량 승인——을 실행할 수 있다면, 안전 경계는 소프트웨어 스택 아래에 존재해야 하며, 그곳에서는 정렬이 어긋나거나 조작된 모델이 자신의 제약을 마음대로 다시 쓸 수 없다. 이 논리는 암호화폐의 오랜 보안 원칙을 반영한다. 즉, 결제 계층이 보장해야 할 것을 애플리케이션 계층이 강제하도록 신뢰하지 말라는 것이다.
칩 수준 강제가 암호화폐에 중요한 이유
암호화폐 및 DeFi 생태계에 대한 시사점은 구체적이다:
- 에이전트 지갑: 자율 에이전트는 점점 더 키나 위임된 서명 권한을 보유한다. 하드웨어로 강제되는 지출 한도와 목적지 허용 목록은 프롬프트 인젝션과 키 유출에 대한 물리적 백스톱을 추가할 것이다.
- 온체인 가드레일: 스마트 컨트랙트 수준의 상한과 결합하면, 칩 수준 정책은 심층 방어를 만들어낸다——손상된 모델조차 서명된 하드웨어 예산을 초과할 수 없다.
- DeFAI와 에이전트 마켓플레이스: 에이전트-서비스(agent-as-a-service) 제품을 판매하는 프로토콜은 자신의 제한이 단순한 약속이 아니라 검증 가능하다는 것을 증명하라는 압력을 받게 될 것이다.
업계 시사점
AI 에이전트와 온체인 금융의 융합은 Web3에서 가장 빠르게 성장하는 내러티브 중 하나였으며, 에이전트는 수익률 전략을 관리하고, 거래를 실행하고, 대출 시장과 상호작용한다. 그러나 이러한 시스템을 강력하게 만드는 동일한 컴포저빌리티가 실패를 전염시키기도 한다. 대출 프로토콜이나 브리지에 접근 권한을 가진 단일 폭주 에이전트는 통합된 풀 전반에 걸쳐 몇 초 만에 손실을 연쇄시킬 수 있다——어떤 인간 거버넌스 프로세스가 대응할 수 있는 것보다 훨씬 빠르다.
엔비디아의 하드웨어 접근 방식은 업계 최대 인프라 플레이어들이 이제 에이전트 봉쇄를 연구 과제가 아닌 제품 카테고리로 보고 있음을 시사한다. 이러한 프레이밍은 암호화폐 팀들을 에이전트 권한 모델, 지출 상한, 그리고 취소 메커니즘의 표준화로 밀어붙일 가능성이 높다——결국 맞춤형 코드가 아닌 감사 가능한 온체인 프리미티브로서.
미래 지향적 관점
예상되는 궤적은 계층화된 신뢰 아키텍처다: 실리콘 수준의 하드웨어 강제 제한, 프로토콜 수준의 암호학적 정책 강제, 그리고 거버넌스 수준의 인간 감독. 에이전트 안전을 경쟁력 있는 기능으로 취급하는 프로젝트——검증 가능한 제약과 제3자 증명을 공개하는——는 자율 시스템에 실제 경제적 권한을 부여하는 것을 여전히 경계하는 기관 자본을 끌어들일 것이다. 델의 경고는 파멸의 예측이라기보다 설계 지침이다: 에이전트가 열쇠를 쥐려면, 자물쇠는 금속에 내장되어야 한다.
