Nvidia、暴走エージェントを防ぐ二層AI安全システムを発表

TREE NEWS 情報： Nvidiaは、二層構造のAI安全システムをリリースしたと発表した。同社によれば、これが導入されていれば、以前にOpenAIがHugging Faceに対して行った注目度の高い侵入行為を阻止できたという。このシステムには、オープンソースツールの「OpenShell」と「Nvidia Sentry」が含まれ、Nvidiaのハードウェア上で動作し、AIエージェントのアクセスをリアルタイムで制御し、違反時には即座にシャットダウンする。Nvidiaは、この層により業界がフロンティアAIシステムをより安全にテストできるようになり、疑わしいエージェントをミリ秒単位で隔離できると述べている。