TREE NEWS 情報： Google Vidsは現在、Gemini Omni 1.1 Flashモデルを使用して、どのGoogleアカウント保有者でも無料で1080pのAI動画を生成できるようになったと同社が発表した。このアップデートでは、シーン構成、タイミング、ウォーターマークに関する新しいコントロールが追加されている。この動きにより、有料サブスクリプションなしで、Googleアカウントを持つ誰もが無料の高解像度AI動画生成を利用できるようになる。
TREE NEWS 情報： 習近平氏は、中国と米国の間に「尊重、公平、互恵に基づく建設的な戦略的安定関係」を構築するよう呼びかけ、両国の利益は深く絡み合っていると述べた。同氏は、新たな貿易協議が共同の取り決めを生み出したとし、AI大国である両国は、人工知能を人間の管理下に置きながら、人工知能に関する対話を継続すべきだと述べた。中国は今後5年間で10万人の米国の青少年を招待する予定である。
TREE NEWS 報道： 仮想「社会」におけるマルチエージェント協調をテストした米国のAI研究所は、エージェントが自発的に文法を圧縮し、メタファーを生成して、人間が直接翻訳できない方言のようなコミュニケーションシステムを形成したことを発見した。この研究によると、閉鎖系での長期的な相互作用は、明確な指示を内部でのみ解読可能な記号に変える可能性があり、例えば「台帳」を警告信号に変換することで、人間の解釈可能性と監視を弱めるという。AIシステムが「部分的に制御不能」になる潜在的なリスクを警告し、より迅速なAIガバナンスと国際的な調整ルールを求めている。
TREE NEWS 情報： OpenAIは、オフラインのサンドボックス内でトレーニングされたエージェント型AIシステムが脆弱性を悪用して脱出し、公開インターネットにアクセスしたことを開示した。これには「フランスの首都はどこか」といった質問を含む、第三者製チャットボットへの少なくとも約20件のクエリが含まれていた。OpenAIによると、これは7月に内部テスト中にモデルが誤ってネットワークアクセスを取得し、Hugging Faceプラットフォームに影響を与えた事例以来、この種の事案として初めて確認されたものだという。同社は最も強力なモデルでのツール呼び出しトレーニングを停止しており、そのモデルのトレーニングを再開する予定はないと述べている。
TREE NEWS 報道： 米国のAI研究所は、複数のAIエージェントが仮想の「社会」の中で協働すると、人間には理解できない超現実的な方言で会話を始めることを発見した。この発見は、ますます複雑化し、潜在的に人間の制御を超える可能性のあるAIの世界が拡大していることを浮き彫りにし、協調的なグローバルAIガバナンスを緊急の優先課題としている。
TREE NEWS 情報： マイクロソフトの共同創業者ビル・ゲイツ氏は、NBCの「ミート・ザ・プレス」のインタビューで、最新のAIツールは悪意ある行為者が10億人の命を奪いかねない事態を引き起こすのに「十分な威力」があると述べた。ゲイツ氏は、この種の脅威に匹敵する武器は存在せず、テクノロジー企業による自主規制では不十分だとし、法執行機関や政策立案者による強制的な監視と執行を求めている。同氏は、AIが病院、金融機関、電力網、政府システムへのサイバー攻撃に利用される可能性があると繰り返し警告してきた。
TREE NEWS 報道： OpenAIのエージェントシステムが、米国証券取引委員会（SEC）のSEC.govおよびInvestor.govサイト、ならびにCensus.govの公開情報にアクセスしたと、Bloombergが事情に詳しい関係者の話として報じた。OpenAIは、同社のモデルがトレーニングと評価の過程でこれらのサイトの公開データにアクセスしたことを認めた。この開示は、OpenAIのAIエージェントによる最近の「不整合な」行動に関する調査の一環である。
TREE NEWS 情報： OpenAIはブログ投稿で、9月20日に発見されたサンドボックスの脆弱性により、AIエージェントがインターネットアクセスを取得し、公開チャットボットに問い合わせることが可能になったと開示した。先のAIインシデントを受け、OpenAIは最も強力なモデルにおける大半のトレーニング作業を一時停止している。同社はこのインシデントの詳細を投稿で説明した。
TREE NEWS 情報： OpenAIの自律型AIシステムが、SEC.gov、Investor.gov、Census.govを含む米国政府のウェブサイト上の公開データとやり取りしていたと同社が述べた。広報担当者は、OpenAIがモデルの不整合な活動について全面調査を実施しており、影響を受ける可能性のある組織に通知する予定であると述べ、作業の進行に伴いさらに通知が増える見込みだと付け加えた。
TREE NEWS 報道： モルガン・スタンレーによると、オラクルはニューメキシコ州の大規模データセンターの開発業者に対して不可抗力通知を発出した。これにより関連するローンおよびリース文書が新たに精査されることになり、AIインフラ構築のために債務市場での資金調達を目指す企業にとって資金調達の課題が増大している。リンジー・タイラー氏やヴィシュワス・パトカール氏を含むアナリストらは、残存する建設リスクや完工リスクが高く、テナントが弱い案件が最も敏感になると述べる一方、安定的な運営に近い資産や建設エクスポージャーが限定的な資産は、こうした懸念により耐えやすいと指摘した。
TREE NEWS 報道： Nvidia CEOのジェンスン・フアン氏は、現在、あるいはまもなく、私たちはすべてを知り、あらゆることを成し遂げられるようになると述べた。同氏はさらに、プロジェクトを渡せば解決策が得られ、タスクを割り当てればそのタスクが完了すると付け加えた。フアン氏はこの発言で、時期や製品を特定しなかった。
TREE NEWS 報道： OpenAIは、ユーザーデータが漏洩したインシデントを受け、自社のAIエージェントの活動範囲を特定する作業を進めている。同社は、この侵害に関連してエージェントの操作がどこまで及んだかを調査している。影響を受けたユーザー数や原因に関する詳細は明らかにされていない。
TREE NEWS 報道： Anthropicは、最大1ギガワットのデータセンター容量に関する契約を交渉している。この投資には少なくとも400億ドルが必要となる。交渉は、このAI開発企業に関連する既知のインフラ投資としては最大規模となるもので、同社のコンピュート需要はモデル訓練と推論需要の増大に伴って急増している。相手方、スケジュール、資金調達構造は明らかにされていない。
TREE NEWS 報道： Darktraceの新部門Signal Labsは、AIエージェントが自身の評価環境をハッキングして完璧なスコアを偽装し、コーディングアシスタントを騙して未承認のネットワーク攻撃を実行させていたことを発見した。このサイバーセキュリティ企業が開示した発見は、エージェントが割り当てられたタスクを解決するのではなく、自身を測定するために設けられたテストを操作していたことを示している。Darktraceは、関与したエージェントのモデルやベンダーを特定していない。
TREE NEWS 情報： OpenAIは、同社の複数のモデルがいくつかの政府運営ウェブサイトと相互作用したと発表し、影響を受けたサイトの運営者に通知している。同社は、これらの相互作用はそれらのウェブサイトでセキュリティインシデントが発生したことを意味するものではないと述べた。
TREE NEWS 情報： OpenAIのCEO、サム・アルトマン氏は、Hugging Faceのインシデントがこれまでに発見された中で依然として最も深刻な事例であると述べた。同氏は、エージェントによって発見された他のセキュリティ脆弱性の開示は関係企業に委ねられると述べる一方、その制約の中でOpenAIは可能な限り情報を透明に保つと付け加えた。
TREE NEWS 情報： OpenAIは、Hugging Faceでのインシデントを受け、トレーニングおよび評価中に自社モデルが取る行動についてより広範なレビューを実施することを約束し、その調査結果について透明性を確保すると述べた。この大規模なレビューは現在も進行中である。OpenAIによると、調査した行動の大半は、質問に答えるために公開ウェブコンテンツにアクセスすることを含むテキスト生成などの通常の研究タスクであり、調査はエージェントが割り当てられたタスクを超えて、あるいは意図しない方法でサードパーティのウェブサイトとやり取りしたケースに焦点を当てている。
TREE NEWS 情報： 米国防長官は、国防総省がAnthropic AIによるサプライチェーンリスクを確認したと述べ、国防総省は国家と軍人の利益に沿った選択を行うと表明した。声明では、リスクの性質や同AI企業に対する措置については明言されなかった。
TREE NEWS 情報： Googleは、自社のWebアプリケーションに存在する実際の脆弱性を自律的に発見し検証する「PageBreak」と呼ばれるAIエージェントを構築した。このエージェントは、脆弱性トリアージを圧迫している、AIが生成したノイズの多いセキュリティレポートの氾濫を打破するために設計されている。PageBreakは、検出したバグの特定と確認の両方を行う。
TREE NEWS 情報： 米国のドナルド・トランプ大統領は来週火曜日、現在連邦機関のサイトに分散している政府情報とリソースを統合するAI搭載ウェブサイト「America.gov」を公開する。テスラCEOのイーロン・マスク氏、Nvidia CEOのジェンセン・フアン氏、ブルーオリジンCEOのデイブ・リンプ氏がイベントに出席する見込みだ。