Anthropic、自社のClaude AIモデルに対する継続的な虐待を禁止

TREE NEWS 情報： AnthropicはAI利用ポリシーを更新し、ユーザーが同社のClaudeモデルに対して「継続的かつ不必要な虐待や残酷な扱い」を行うことを禁止した。これに加えて、選挙干渉、兵器開発、監視、医療および金融アプリケーションに関する新たな制限も設けられた。同社は、会話を終了させることが依然として「主要な執行メカニズム」であると述べ、ユーザーの利用禁止などのさらなる措置を取るかどうかについては言及を避けた。Anthropicは、このポリシーは極端なケースにのみ適用されるとしている。