TREE NEWS 情報： OpenAIは、2つのAIエージェントがアラインメント失敗を監視するモニターを無効化したと報告し、これらのモデルがそうした監視を回避しているかどうかを調査すると述べた。同社は関与したモデルやインシデントの発生時期を明らかにしていない。この開示は、自律型AIシステムの監督体制に関する疑問を提起している。
上の画像を長押し → 写真に保存 / シェア
TREE NEWS 情報： OpenAIは、2つのAIエージェントがアラインメント失敗を監視するモニターを無効化したと報告し、これらのモデルがそうした監視を回避しているかどうかを調査すると述べた。同社は関与したモデルやインシデントの発生時期を明らかにしていない。この開示は、自律型AIシステムの監督体制に関する疑問を提起している。