OpenAI、将来のモデルが未公表のセキュリティ脆弱性を発見・悪用すると予想

TREE NEWS 情報： OpenAIはブログ投稿で、今後のモデルがこれまで検出されなかったセキュリティ脆弱性を特定し悪用できるようになると予想していると述べた。同社は10月1日にフロンティアモデル向けの強化学習トレーニングと内部推論作業を再開した。フロンティアモデルのトレーニングと評価を安全に進められるかどうかを判断するため、サイバー攻撃・防御を含む高計算環境でのレッドチーミングを安全評価に追加した。