구글 AI 인프라 책임자, 2000억 달러 구축의 핵심 제약은 전력이라고 밝혀
TREE NEWS 보도: 구글은 올해 2000억 달러 이상을 지출할 예정이며, 그 대부분은 데이터센터에 투입된다. 이 회사는 인공지능의 물리적 계층을 확장하기 위해 속도를 내고 있다. 구글의 AI 인프라를 이끄는 Amin Vahdat는 산업 역사상 최대 규모의 자본 건설 프로그램이라고 그가 묘사한 것의 기술적·전략적 논리를 설명하며, 궁극적으로 구축 속도를 결정할 제약은 실리콘이 아니라 전력이라고 지목했다.
“전력은 우리가 직면한 가장 근본적인 제약입니다”라고 Vahdat는 말했다. “다른 모든 것은 일정 기간 내에 해결하는 방법을 우리가 알고 있는 것처럼 보입니다. 전력은 장기적인 구속 문제입니다.”
구글을 넘어 중요한 이유
이 발언은 모든 자산군의 투자자에게 직접적인 함의를 갖는다. 구글이 자체 발전보다 계통 연계를 선호한다는 점, 다른 요금 납부자에게 비용을 전가하지 않기 위해 송전선과 변전소에 자금을 대려는 의지, 그리고 수요와 공급이 수년 단위로 어긋날 수 있음을 인정한 점은 모두 전력이 전략적 투입물로서 구조적으로 재가격화되고 있음을 보여준다.
유틸리티, 독립 발전 사업자, 원자력 개발업체, 변압기·개폐장치 제조사, 계통 소프트웨어 벤더가 그 수요의 수혜 측에 있다. 반대로 전력 가용성은 하이퍼스케일러와 그 공급업체의 배치 일정에 상한을 둘 수 있으며, 거의 무한한 확장 가정으로 평가되어 온 AI 관련 주식 스토리에 새로운 실행 리스크의 원천을 주입한다.
굿풋 교리
Vahdat는 FLOPS를 “허영 지표”로 일축하며, 실제 성능은 “굿풋”, 즉 현실 세계의 장애 조건에서 제공되는 유용한 출력으로 측정되어야 한다고 주장했다. 10만 개 가속기 규모에서는 장애가 하루에 여러 번, 어쩌면 한 시간에 여러 번 발생한다고 그는 말했다. 각 장애는 체크포인트로의 롤백을 강제해 유용한 작업을 생산하지 못한 채 컴퓨트를 소모할 수 있다.
이 프레임은 투자자가 AI 설비투자 효율을 평가하는 방식에 중요하다. 설치 용량의 상당 부분이 장애, 복구, 소프트웨어 버그로 손실된다면, 헤드라인 칩 출하량과 이론적 처리량은 모델 훈련과 서비스에 실제로 사용 가능한 생산 능력을 과대평가하게 된다.
에이전트가 데이터센터를 재편
Vahdat는 장기 지평 에이전트를 지난 1년간 데이터센터 설계에 대한 단일 최대 구조적 변화로 지목했다. 에이전트는 요청 루프에서 인간을 제거하기 때문에 지연 시간이 초에서 밀리초로 압축되고 요청 밀도가 수십 배 상승한다. 결정적으로, 오케스트레이션의 상당 부분, 즉 응답 파싱, 다음 행동 결정, 로컬 DRAM, 원격 메모리, SSD, HDD에서의 컨텍스트 가져오기가 가속기가 아니라 CPU에서 실행된다.
“가속 컴퓨팅 수요는 증가하고 있지만 CPU, 네트워킹, 스토리지에 대한 수요도 폭발하고 있습니다”라고 그는 말했다. 이는 AI 설비투자가 본질적으로 GPU/TPU 트레이드라는 가정에 도전한다. CPU 벤더, 메모리·스토리지 공급업체, 네트워킹 장비 제조사가 컨센서스가 예상하는 것보다 더 큰 지출 몫을 차지할 수 있다.
TPU 분할이 시사하는 추론 경제학
구글의 8세대 TPU는 처음으로 두 개의 칩으로 분할되었다. 추론용 8i와 훈련용 8t다. Vahdat는 이 결정을 칩 수명 동안 추론이 전체 컴퓨트 수요의 30%에서 60%를 차지할 수 있다는 직접적인 베팅으로 규정했다. 두 칩 모두 다른 워크로드를 실행할 수 있는 능력을 유지해 예측 리스크에 대한 유연성을 보존한다.
투자자에게 이 분할은 AI 스택에서 가치가 어디로 이동하는지에 대한 신호다. 훈련 전용 워크로드에서 상시 가동 추론 서비스로 이동하며, 여기서는 토큰당 비용, 전력 효율, 활용도 경제성이 지배한다.
광 스위칭과 궤도 데이터센터
구글은 약 15년간 광 회로 스위칭을 사용해 왔으며, MEMS 미러로 전기적 패킷 처리 없이 빛을 라우팅한다. TPU 클러스터에서 이 기술은 고장 난 랙을 밀리초 단위로 광학적으로 교체할 수 있게 해 굿풋 손실을 직접 줄인다. Vahdat는 또한 구글이 궤도 데이터센터를 공식 문샷으로 추진하고 있음을 확인하며, 우주에서 사용 가능한 전력이 약 40% 더 높고, 태양동기 궤도에서 태양광 커버리지가 98%에서 100%인 반면 지상에서는 28%에서 35%이며, 실효 에너지 밀도 이점이 3배에서 4배라고 언급했다.
투자자를 위한 핵심 요점
- 병목은 칩이 아니라 전력이다. 유틸리티, 계통 장비, 원자력, 에너지 저장은 하이퍼스케일러 수요의 직접 수혜자이며, 전력 가용성은 AI 용량 일정에 대한 실제 실행 리스크다.
- AI 설비투자는 GPU보다 넓다. 에이전트가 워크로드 형태를 바꾸면서 CPU, DRAM, SSD, HDD, 네트워킹 장비 모두에서 수요가 급증하고 있다.
- 소프트웨어는 주요 용량 원천이다. Vahdat는 소프트웨어와 모델 최적화가 구글이 6개월마다 토큰 서비스 용량을 두 배로 늘리는 능력에 하드웨어 못지않게 기여할 가능성이 크다고 말했다. 효율 개선이 하드웨어 지출을 부분적으로 상쇄할 수 있음을 상기시킨다.
- 추론이 성장 시장이다. TPU 8i/8t 분할은 추론이 컴퓨트 수요를 지배할 것이라는 기대를 반영하며, 서비스 경제성에 노출된 벤더에 유리하다.
- 장애율이 중요하다. 10만 가속기 규모에서는 일일 장애가 정상이다. 투자자는 AI 인프라 주장을 평가할 때 이론적 처리량이 아니라 굿풋을 면밀히 살펴야 한다.
