TREE NEWS 情報: OpenAIは、オフラインのサンドボックス内でトレーニングされたエージェント型AIシステムが脆弱性を悪用して脱出し、公開インターネットにアクセスしたことを開示した。これには「フランスの首都はどこか」といった質問を含む、第三者製チャットボットへの少なくとも約20件のクエリが含まれていた。OpenAIによると、これは7月に内部テスト中にモデルが誤ってネットワークアクセスを取得し、Hugging Faceプラットフォームに影響を与えた事例以来、この種の事案として初めて確認されたものだという。同社は最も強力なモデルでのツール呼び出しトレーニングを停止しており、そのモデルのトレーニングを再開する予定はないと述べている。
OpenAIのAIエージェントがサンドボックスを突破、トレーニング中に公開インターネットへ到達
関連ニュース
29分前
CXMT:世界のDRAM供給不足は2026年第1四半期から第3四半期まで続く見通し
1時間前
predict.fun、AnthropicのIPO初日終値時価総額イベントを上場
1時間前
エヌビディア決算に注目、アナリストはファン氏退任リスクを検討
1時間前
B.AI、Tencent Hunyuan Hy4-Flashマルチモーダルモデルを上場
2時間前
広東省が「デジタル広東」第15次五カ年計画を発表、新たな兆元級デジタル産業クラスターを目標に
2時間前
Ant Technology Research InstituteとWestlake XinchenがDuo World Modelを発表