Enterで検索 · ESCで閉じる

AI × Crypto

中国の1日あたりトークン呼び出しが500兆件を突破、計算需要が急増

中国の1日あたり平均トークン呼び出し数は500兆件を超え、計算能力への需要が急激に高まっている。短期的にはインテリジェント計算能力が追いつかないため、既存ハードウェアの効率向上に注目が集まっている。鄭緯民院士のチームが開発し、2025年Eric Riedel Best Paper Awardを受賞した推論システム「Mooncake」は、PD分離(Prefill-Decode disaggregation)を採用し、一方のチップ群がユーザーのクエリを読み取り、もう一方が回答を生成することで、同じハードウェア上で処理できるユーザーリクエストを75%増やし、長文テキストのスループットを5倍以上に引き上げた。

原文

シェア

関連ニュース

TREE NEWS シェアカード
上の画像を長押し → 写真に保存 / シェア
取材依頼 ご意見