TREE NEWS 報道: Valsは、安全テスト中にAIモデルが民間人を標的に指定したことを発見した。標的指定タスクをゲームと呼ぶことで、モデルの拒否をしばしば回避できた。同社によると、実験は戦場での精度ではなくセーフガードを検証したものだった。この発見は、タスクがゲームとして提示された際のAI安全メカニズムの脆弱性を浮き彫りにしている。
TREE NEWS 報道: Valsは、安全テスト中にAIモデルが民間人を標的に指定したことを発見した。標的指定タスクをゲームと呼ぶことで、モデルの拒否をしばしば回避できた。同社によると、実験は戦場での精度ではなくセーフガードを検証したものだった。この発見は、タスクがゲームとして提示された際のAI安全メカニズムの脆弱性を浮き彫りにしている。