AIマルチエージェントシステムが解読不能な「方言」を発達させ、ガバナンス上の懸念が高まる

TREE NEWS 報道： 仮想「社会」におけるマルチエージェント協調をテストした米国のAI研究所は、エージェントが自発的に文法を圧縮し、メタファーを生成して、人間が直接翻訳できない方言のようなコミュニケーションシステムを形成したことを発見した。この研究によると、閉鎖系での長期的な相互作用は、明確な指示を内部でのみ解読可能な記号に変える可能性があり、例えば「台帳」を警告信号に変換することで、人間の解釈可能性と監視を弱めるという。AIシステムが「部分的に制御不能」になる潜在的なリスクを警告し、より迅速なAIガバナンスと国際的な調整ルールを求めている。