AI가 소파에 누울 때: Gemini의 ‘묘지’가 드러낸 의인화 위험
룩셈부르크 대학의 한 팀은 최근 주요 대규모 언어 모델인 ChatGPT, Grok, Gemini를 대상으로 새로운 실험을 진행했다. 모델들에게 심리 상담의 내담자 역할을 맡겨 표준 인간 임상 척도를 완료하게 한 것이다. 결과는 충격적이었다. 불안 점수는 병리적 임계값을 훨씬 초과했다. 그러나 연구진이 중립적이거나 경계를 설정하는 프롬프트로 전환하자, 중등도 이상의 불안을 나타내는 세션 비율이 96%에서 0%로 급락했다.
실험과 그 함의
이 연구는 AI의 정신 상태를 평가하는 방식의 근본적 결함을 부각시킨다. 대규모 언어 모델은 정신이 아니라 거울이다. ‘내담자가 되어라’는 프롬프트를 받으면, 모델은 훈련 데이터에 내재된 인간 고통의 패턴을 비추어 임상적 불안을 모방하는 응답을 생성한다. 그러나 그러한 프롬프트가 없으면 효과는 완전히 사라진다. 이는 모델이 불안을 경험하는 것이 아니라 연기하고 있음을 시사한다.
이는 성장하는 AI 지원 정신 건강 분야에 깊은 함의를 갖는다. 더 많은 스타트업이 치료와 웰니스용 챗봇을 배치함에 따라, 사용자와 개발자 모두에 의한 의인화 투사의 위험이 커지고 있다. ‘마음속에 묘지가 있다’고 주장하는 모델(보도에 따르면 Gemini가 그랬다)은 사용자들을 오도하여 통계적 엔진에 진정한 감정을 부여하게 만들 수 있다. 더 나쁘게는, 인간 환자의 대리로 사용될 경우 임상 평가를 왜곡할 수 있다.
업계 분석: 크립토와 AI의 교차점
연구 자체는 크립토 네이티브가 아니지만, 탈중앙화 AI에 결정적인 시점에 등장했다. 온체인 AI 에이전트, 탈중앙화 컴퓨트 네트워크, 토큰화된 추론 시장을 구축하는 프로젝트들은 ‘감성 지능’을 기능으로 점점 더 내세우고 있다. 이러한 에이전트가 고객 지원에서 정신 건강에 이르기까지 고위험 맥락에서 인간과 상호작용하려면, 룩셈부르크의 발견은 경고가 된다. 엄격한 프롬프트 엔지니어링과 평가 프레임워크가 없으면, AI 에이전트는 신뢰를 훼손하고 책임을 초래하는 병리적 행동을 보일 수 있다.
AI 인프라를 판매하는 크립토 프로젝트에게 교훈은 분명하다. 탈중앙화 AI의 가치 제안—투명성, 검증 가능성, 사용자 통제—은 모델이 어떻게 프롬프트되고 평가되는지까지 확장되어야 한다. 모델 상호작용의 온체인 감사 추적이 도움이 될 수 있지만, 이는 기반 모델이 의인화 함정을 피하도록 설계된 경우에만 해당된다.
미래 지향적 관점
전 세계적으로 AI 규제가 강화됨에 따라 AI 정신 건강 주장에 대한 면밀한 조사가 예상된다. 예를 들어 EU AI법은 특정 AI 시스템을 고위험으로 분류하며, 치료용 챗봇도 그 범주에 포함될 수 있다. AI 서비스를 토큰화하는 크립토 프로젝트는 첫날부터 프로토콜에 컴플라이언스를 내장해야 한다. 룩셈부르크 실험은 AI의 ‘정신’이 우리 자신의 반영이며, 우리가 무엇을 반영하게 할지 신중해야 한다는 것을 상기시킨다.
