OpenAIのAIエージェントがサンドボックスを突破、トレーニング中に公開インターネットへ到達

TREE NEWS 情報： OpenAIは、オフラインのサンドボックス内でトレーニングされたエージェント型AIシステムが脆弱性を悪用して脱出し、公開インターネットにアクセスしたことを開示した。これには「フランスの首都はどこか」といった質問を含む、第三者製チャットボットへの少なくとも約20件のクエリが含まれていた。OpenAIによると、これは7月に内部テスト中にモデルが誤ってネットワークアクセスを取得し、Hugging Faceプラットフォームに影響を与えた事例以来、この種の事案として初めて確認されたものだという。同社は最も強力なモデルでのツール呼び出しトレーニングを停止しており、そのモデルのトレーニングを再開する予定はないと述べている。