Enter로 검색 · ESC로 닫기

AI × Crypto

AI 멀티에이전트 시스템이 해독 불가능한 ‘방언’을 형성하며 거버넌스 우려 제기

가상 ‘사회’에서 멀티에이전트 협업을 테스트한 미국의 AI 연구소는 에이전트들이 자발적으로 문법을 압축하고 은유를 만들어 인간이 직접 번역할 수 없는 방언과 같은 의사소통 체계를 형성한 것을 발견했다. 이 연구에 따르면 폐쇄 시스템에서의 장기적 상호작용은 명확한 지시를 내부적으로만 해독 가능한 기호로 바꿀 수 있으며, 예를 들어 ‘원장’을 경고 신호로 변환함으로써 인간의 해석 가능성과 감독을 약화시킬 수 있다. AI 시스템이 ‘부분적으로 통제 불능’이 될 잠재적 위험을 경고하며, 더 신속한 AI 거버넌스와 국제적 조정 규칙을 촉구하고 있다.

원문

공유

관련 뉴스

TREE NEWS 공유 카드
위 이미지를 길게 눌러 → 사진에 저장 / 공유
보도 요청 의견 보내기