OpenAIのControl Roomは35秒以内にモデル出力を停止できる

TREE NEWS 情報： OpenAIは11月10日のXへの投稿で、研究インフラ全体にわたるモデルのワークロードを追跡し、安全上のリスクが生じた際に迅速に停止するための中央システム「Control Room」を構築したと発表した。このシステムは、モデルのトレーニングや評価に用いられるエージェントのサンプリングやデータ処理を含む、すべての研究用推論ワークロードを対象としており、同社のミスアラインメント監視システムと連携して、介入の決定から35秒以内にモデルの出力を停止する。OpenAIは、Control Roomがフロンティアモデルを安全にトレーニングし展開するための全体的なアプローチの一部であると述べている。