Enterで検索 · ESCで閉じる

AI × Crypto

Nvidia RTX Spark Mini AIワークステーションが発売、120Bパラメータのモデルをローカルで実行可能

Nvidiaは、RTX Sparkプラットフォームをベースにした小型デスクトップPCが現在販売中であると発表した。Asus、Dell、MSIはすでに出荷を開始しており、Acer、Gigabyte、HPがこれに続く予定だ。これらのマシンは、20コアのNvidia Grace CPUとBlackwellベースのRTX GPUを組み合わせ、最大128GBのユニファイドメモリと最大1ペタフロップスのAI演算性能を備えており、1,200億パラメータの大規模言語モデルをローカルで実行するのに十分な性能を持つ。Nvidiaによれば、ローカル推論によってクラウドAPIへの依存とトークンコストを削減できるという。

原文

シェア

関連ニュース

TREE NEWS シェアカード
上の画像を長押し → 写真に保存 / シェア
取材依頼 ご意見