Enter로 검색 · ESC로 닫기

AI × Crypto

Nvidia: Vera Rubin NVL72, GPU당 HBM 약 3% 증가만으로 비용 대비 추론 처리량 최대 30배 향상

Nvidia는 AI 모델이 커지고 HBM 공급이 타이트해지며 가격이 상승하는 가운데 GPU 메모리 압박이 커지는 상황을 완화하기 위해, 단순히 GPU 메모리 용량을 늘리는 대신 GPU, CPU, 네트워킹, 스토리지, 소프트웨어 전반에 걸친 풀스택 공동 설계 방식을 제안했다. 회사에 따르면 SemiAnalysis AgentX 테스트에서 GB300 NVL72는 특정 워크로드에서 H200 대비 단위 비용당 추론 처리량 최대 10배를 달성했으며, Vera Rubin NVL72는 GPU당 HBM 용량을 약 3%만 늘리고도 GB300 NVL72 대비 최대 30배를 달성한다.

원문

공유

관련 뉴스

TREE NEWS 공유 카드
위 이미지를 길게 눌러 → 사진에 저장 / 공유
보도 요청 의견 보내기