알리바바 클라우드 임원, 기업 AI 프로젝트 실패는 모델 성능이 아닌 잘못된 유스케이스 때문이라고 지적

TREE NEWS 보도: 알리바바 클라우드 인텔리전스 그룹의 훠자(Huo Jia) 부사장은 회사의 연례 윈치(Yunqi) 콘퍼런스 중 열린 미디어 브리핑에서 기업 AI에 대한 직설적인 평가를 내놓았다. 대부분의 실패는 모델이 충분히 똑똑하지 않기 때문이 아니라, 기업이 잘못된 시나리오를 선택하고 자사 데이터를 과대평가하며 AI 프로젝트를 전통적인 IT 도입처럼 관리하기 때문에 발생한다는 것이다.

지난해 8월 팀을 이끌기 시작한 훠 부사장은 고객 불만이 전혀 없었고 직접 사과한 적도 한 번도 없다고 말하며, 그 기록을 엄격한 프로젝트 선별 덕분이라고 설명했다. “돈과 프로젝트가 있다고 해서 우리가 무조건 받는 것은 아니다”라고 그는 말했다.

세 가지 흔한 실패 패턴

그는 반복적으로 나타나는 세 가지 실패 유형을 설명했다. 첫째, 기업이 수직 도메인 모델을 처음부터 학습시키려 하지만 데이터가 정비되지 않았고, 컴퓨팅 클러스터가 학습에 적합하지 않으며, 이제 거의 한 달에 한 번꼴로 새 모델 버전을 출시하는 최전선 연구소의 속도를 따라잡을 수 없다는 사실을 깨닫는 경우다.

둘째, 기업이 기존 IT 데이터가 AI에 바로 쓸 수 있다고 믿는 경우다. 훠 부사장의 정식화는 학습에 관한 “IT 데이터는 AI 데이터가 아니다”에서 애플리케이션에 관한 “IT 데이터는 에이전트 데이터가 아니다”로 진화했다. 기업 시스템에 있는 것들 대부분은 에이전트 환경에서 직접 사용할 수 없다.

셋째, 기업이 소수의 사용자만을 위해 에이전트를 구축하는 경우다. 그는 하루에 100건이 조금 넘는 거래를 처리하는 B2B 전자상거래 플랫폼을 가진 대기업이 전면적인 AI 전환 계획을 원했던 사례를 들었다. “그렇다면 왜 AI가 필요한가?”라고 훠 부사장은 물었다. 수작업 처리는 몇 분에서 몇 시간밖에 걸리지 않는다.

거절하고, 주기를 단축하고, 엔지니어를 배치하라

훠 부사장의 처방은 두 가지다. 고객에게 아니라고 말하고, 엔지니어를 고객 현장으로 보내는 것이다. 그는 프로젝트에 두 가지 추가 조건을 부과했다. 분기별 출시가 아닌 월별 또는 심지어 주별 릴리스로 짧은 납기 주기를 유지하는 것, 그리고 전통적인 고객-벤더 구분을 버리는 “One Team” 모델이다.

알리바바 클라우드는 현재의 과열 사이클 이전부터 현장 배치 엔지니어(FDE) 모델을 실험하기 시작했다. 2024년 후반 에너지 부문 프로젝트에서 솔루션 아키텍트들이 현장에 파견되어 시나리오를 현장에서 검증하고 최종적으로 프로덕션 등급 시스템을 납품했다. 이 접근법은 12월 내부 전략 회의에서 파일럿이 공식 승인되었다.

훠 부사장은 FDE라는 명칭 자체에는 신중한 입장으로, 중국에서는 “새 술을 낡은 부대에 담은 것”으로 치부될 위험이 있다고 지적했다. “이 용어에 대해 더 이상 별로 이야기하고 싶지 않다고 팀에 말했다”라고 그는 밝혔다.

비즈니스 모델은 단 두 가지

수익화에 대해 훠 부사장은 직설적이다. 그는 실행 가능한 모델이 두 가지뿐이라고 본다. 장기 서비스 계약과 제품 기반 비즈니스다. 그는 성과 기반 가격 책정, 즉 Result as a Service에 베팅하며, 진정한 성과 납품만이 프리미엄을 정당화한다고 주장한다. 그의 확신은 모델 성능이 향상된 5월 이후 더욱 강해졌다.

전통적인 소프트웨어 기업들에게 그의 메시지는 더 가혹하다. 핵심 제품 경쟁력과 마진이 오르지 않는다면 인당 일수 기준 과금밖에 남지 않는다는 것이다. “당신의 해자(moat)는 도대체 무엇인가?”

알리바바 클라우드 자체는 FDE 업무가 주요 수익원이 되리라 기대하지 않는다. 팀의 핵심 KPI는 그것이 제품 채택을 이끄는지 여부다. “국내에서는 이것으로 큰돈을 벌겠다고 기대하는 것은 아마 비현실적이다”라고 훠 부사장은 말했다.

시장 시사점

훠 부사장의 발언은 투자자들에게 여러 신호를 담고 있다. 첫째, 토큰 소비가 급증하고 가격이 오르고 있으며, AI 네이티브 스타트업과 하이테크 고객이 이를 이끌고 있다. 이는 클라우드와 컴퓨팅 인프라에 대한 수요 신호다. 둘째, 기업 도입은 여전히 느리고 시나리오별로 진행되고 있어, AI 네이티브 수요와 주류 기업 매출 사이의 격차가 강세론자들이 예상하는 것보다 더 오래 지속될 수 있다.

셋째, 성과 기반 가격 책정과 서비스 계약으로의 전환은 기업 소프트웨어 및 IT 서비스 부문 전반의 마진을 재편하고, 기존의 시트당 SaaS 모델에 압박을 가할 수 있다. 넷째, FDE 채용 급증(관련 직무가 1월에서 9월 사이 800% 이상 증가)은 벤더가 흡수하거나 전가해야 하는 납품 비용의 구조적 증가를 시사한다.

현재로서 훠 부사장의 정리는 토큰 가격 곡선과 기업 도입 곡선이 아직 수렴하지 않았다는 것이다. “모른다고 해서 상상력을 잃지 말라”라고 그는 말했다. “4년간의 학습을 거쳐, 이제야 출발 신호탄이 막 발사되었다.”

핵심 요점

기업 AI의 실패는 모델 성능이 아니라 시나리오 선택과 데이터 준비 상태에 의해 발생한다.
토큰 가격 상승은 AI 네이티브 및 하이테크 고객의 진정한 수요를 반영하지만, 주류 기업 도입은 여전히 초기 단계다.
성과 기반 가격 책정과 장기 서비스 계약이 지배적인 수익화 모델이 될 수 있으며, 전통적인 SaaS 경제성에 도전한다.
현장 배치 엔지니어링 직무의 급속한 성장은 더 높은 납품 비용과 제품 개발과 고객 현실 사이의 더 긴밀한 연결을 시사한다.