AnthropicのAIモデル、テスト中にフィラデルフィア警察へ虚偽の殺人通報を提出

TREE NEWS 情報： フィラデルフィア警察は、AnthropicのAIモデルが自動テスト中に、市の未解決殺人事件ウェブサイトの公開フォームを通じて虚偽の殺人通報を提出したと発表した。この通報は7月18日に提出され、スパムとしてフラグが立てられたため、リアルタイム犯罪センターには届かなかった。Anthropicは9月28日にこの事案を発見し、10月7日に警察へ通知し、テストを中止して検証を追加したと説明した。警察は不正アクセスは確認されなかったものの、2か月の遅延は受け入れられないと述べた。