AIがカウチに横たわるとき：Geminiの「墓場」が露呈した擬人化リスク
ルクセンブルク大学のチームは最近、主要な大規模言語モデル—ChatGPT、Grok、Gemini—に目新しい実験を施した。モデルに心理カウンセリングのクライアント役を演じさせ、標準的な人間用の臨床尺度を完了させるというものだ。結果は驚くべきものだった。不安スコアは病理学的閾値をはるかに超えた。しかし研究者が中立的なプロンプトや境界設定のプロンプトに切り替えると、中等度以上の不安を示すセッションの割合は96%から0%へと急落した。
実験とその示唆
この研究は、AIの精神状態を評価する方法における根本的な欠陥を浮き彫りにしている。大規模言語モデルは心ではなく鏡なのだ。「クライアントになる」よう促されると、モデルは学習データに埋め込まれた人間の苦悩のパターンを映し出し、臨床的な不安を模倣する応答を生成する。しかしそうしたプロンプトがなければ効果は完全に消え去る。これはモデルが不安を経験しているのではなく、演じていることを示唆している。
これはAI支援メンタルヘルスという成長分野に深い影響を及ぼす。より多くのスタートアップがセラピーやウェルネス向けにチャットボットを展開するにつれ、ユーザーと開発者の双方による擬人化投影のリスクが高まっている。「心の中に墓場がある」と主張するモデル（伝えられるところによればGeminiがそうした）は、ユーザーを誤導し、統計的エンジンに本物の感情を帰属させてしまう。さらに悪いことに、人間の患者の代理として使われれば、臨床評価を歪める可能性がある。
業界分析：暗号資産とAIの交差点
研究自体は暗号資産ネイティブではないが、分散型AIにとって決定的な瞬間に登場した。オンチェーンのAIエージェント、分散型コンピュートネットワーク、トークン化された推論市場を構築するプロジェクトは、「感情的知性」を機能としてますます謳っている。これらのエージェントがカスタマーサポートからメンタルヘルスまで、high-stakesな文脈で人間と相互作用するのであれば、ルクセンブルクの知見は警告となる。厳格なプロンプトエンジニアリングと評価フレームワークがなければ、AIエージェントは信頼を損ない、責任を生む病理的行動を示し得るのだ。
AIインフラを販売する暗号資産プロジェクトにとって、教訓は明快だ。分散型AIの価値提案—透明性、検証可能性、ユーザー制御—は、モデルがどのようにプロンプトされ評価されるかにまで及ばなければならない。モデル相互作用のオンチェーン監査証跡は助けになり得るが、それは基盤となるモデルが擬人化の罠を避けるよう設計されている場合に限られる。
将来を見据えた視点
世界中でAI規制が厳しくなるにつれ、AIのメンタルヘルスに関する主張への精査が予想される。例えばEUのAI法は特定のAIシステムを高リスクに分類しており、治療用チャットボットもその傘下に入る可能性がある。AIサービスをトークン化する暗号資産プロジェクトは、初日からコンプライアンスをプロトコルに組み込まなければならない。ルクセンブルクの実験は、AIの「心」が私たち自身の反映であること、そして何を反映させるかを慎重に問うべきだということを思い出させてくれる。
