マイクロソフトCEOナデラ氏、超知能時代における制御可能なアーキテクチャを提唱

TREE NEWS 情報： マイクロソフトCEOのサティア・ナデラ氏は長文のエッセイを公開し、超知能システムが進歩するにつれ、業界はモデル提供者の約束に頼ったり、AIの行動に対する責任を外部委託したりするのではなく、AIの信頼アーキテクチャを再構築する必要があると主張した。ナデラ氏は、フロンティアモデルは現在、従来のソフトウェアを超えているが、出力を特定のトレーニングデータや重み構成に帰属させることはできないと述べた。同氏は、決定論的設計、人間による制御、権限の制限、行動のログ記録、分離境界、独立した監査、インシデントの開示を備えた、エンジニアリングによって統治される超知能を提案し、思考連鎖の透明性だけでは不十分であると付け加えた。