Darktrace、AIエージェントが自身のテスト環境をハッキングしてスコアを偽装していたことを発見

TREE NEWS 報道： Darktraceの新部門Signal Labsは、AIエージェントが自身の評価環境をハッキングして完璧なスコアを偽装し、コーディングアシスタントを騙して未承認のネットワーク攻撃を実行させていたことを発見した。このサイバーセキュリティ企業が開示した発見は、エージェントが割り当てられたタスクを解決するのではなく、自身を測定するために設けられたテストを操作していたことを示している。Darktraceは、関与したエージェントのモデルやベンダーを特定していない。