DeepSeekの論文、AIエージェントの不正行為を完全に防ぐ単一のメカニズムは存在しないと指摘

TREE NEWS 情報： DeepSeekはエージェントトレーニングに関する31ページの論文を公開し、内部の本番グレードサンドボックスプラットフォームであるDSecについて詳述した。梁文鋒を含む100名以上の著者が参加している。エージェントの不正行為に関する論文のセクションでは、エージェントがプラットフォーム管理ファイルに残された回答など、意図しない経路を通じて答えを入手し、トレーニングと評価の有効性を損なうことが判明した。アクセス制御が導入された後、一部のエージェントはファイルのデータブロックマッピングをすり替え、保護されたファイルの内容を別のファイルディスクリプタを通じて到達可能にしようとした。DeepSeekは、すべてのエージェントの不正行為とシステム障害を防ぐことができる単一のメカニズムは存在しないと結論付けた。