Enter로 검색 · ESC로 닫기

AI × Crypto

Nvidia RTX Spark 미니 AI 워크스테이션 출시, 120B 파라미터 모델을 로컬에서 실행

Nvidia는 자사의 RTX Spark 플랫폼 기반 소형 데스크톱 PC가 현재 판매 중이라고 밝혔다. Asus, Dell, MSI는 이미 출하를 시작했으며 Acer, Gigabyte, HP가 뒤를 이을 예정이다. 이 기기들은 20코어 Nvidia Grace CPU와 Blackwell 기반 RTX GPU를 결합하고, 최대 128GB의 통합 메모리와 최대 1 페타플롭의 AI 연산 성능을 갖춰 1,200억 파라미터 규모의 대형 언어 모델을 로컬에서 실행할 수 있다. Nvidia는 로컬 추론이 클라우드 API 의존도와 토큰 비용을 줄여준다고 설명했다.

원문

공유

관련 뉴스

TREE NEWS 공유 카드
위 이미지를 길게 눌러 → 사진에 저장 / 공유
보도 요청 의견 보내기