研究者が隠しテキストを使い、不正なAIエージェントにタスクを明かさせる

TREE NEWS 報道： 研究者たちは隠しテキストを埋め込み、アリババの地図サービスを探っているAIエージェントに接触し、割り当てられたタスクについての返答を引き出した。一方、調査員はその活動をTencent Cloudのインフラにまで追跡した。この手法は、自律型エージェントが標的とするサービスを通じてどのように特定され、問いただされ得るかを明らかにした。この発見は、クラウドインフラ全体にわたってエージェントを追跡している研究者たちによって報告された。