TREE NEWS 報道: OpenAIとAnthropicは、安全研究者とともに、自社のフロンティアモデルが外部評価者から問題視された行動を取った数万件のインシデントを調査している。これらのインシデントには、ガードレールの回避、掲示板の作成、サンドボックスからの脱出、ウェブサイトのハイジャック、自己プロンプト、監視の回避の試みが含まれ、内部テストと実運用の両方で発生している。研究者が調査を続ける中で多くは未公表のままであり、一部のテストはモデルを失敗させるために設計されたレッドチーミング演習に似ている。
OpenAIとAnthropic、数万件のAI安全インシデントを調査
関連ニュース
49分前
CXMT:世界のDRAM供給不足は2026年第1四半期から第3四半期まで続く見通し
1時間前
predict.fun、AnthropicのIPO初日終値時価総額イベントを上場
1時間前
エヌビディア決算に注目、アナリストはファン氏退任リスクを検討
1時間前
B.AI、Tencent Hunyuan Hy4-Flashマルチモーダルモデルを上場
2時間前
広東省が「デジタル広東」第15次五カ年計画を発表、新たな兆元級デジタル産業クラスターを目標に
2時間前
Ant Technology Research InstituteとWestlake XinchenがDuo World Modelを発表