a16z 인공지능 컴퓨팅 역량에 대한 심층 분석: 매출 두 배 증가, 주가 하락 압력, 그리고 엄청난 자본 지출.

원작자: Moses Sternstein, a16z

편집자 주: 생성형 AI에 힘입은 새로운 컴퓨팅 파워 투자 물결 속에서, AI 인프라에 대한 시장 논의는 "GPU가 충분한가"에서 "누가 지속 가능한 컴퓨팅 파워를 제공할 수 있는가"로 옮겨가고 있습니다. 모델 학습, 추론, 데이터 센터 확장의 필요성이 점차 공감을 얻으면서, 보다 근본적인 질문이 제기됩니다. 과연 컴퓨팅 파워 수요의 급증이 안정적인 수익과 현금 흐름으로 이어질 수 있을까요?

a16z New Media에서 발행하는 "이번 주의 차트"에서 저자 모세스 스턴스타인은 코어위브, 네비우스, 어플라이드 디지털과 같은 신흥 클라우드 기업들을 시작으로 AI 컴퓨팅 파워 시장의 성장, 가치 평가, 수익성 측면에서 나타나는 모순들을 논의하고, 더 나아가 수평적 SaaS, 모델 라우팅, 최첨단 연구소의 인재 경쟁까지 살펴봅니다.

이 글에서 저자는 단순히 AI 수요가 강한지 여부를 판단하는 데 그치지 않고, 현재의 AI 시장을 보다 근본적인 구조적 질문들로 분석합니다. 즉, 기존 인프라의 가격이 어떻게 재조정되고 있는지, 매출 성장이 시장 기대치 상승에 발맞춰 나가지 못하는 이유는 무엇인지, 그리고 AI 산업 경쟁의 초점이 단순한 확장에서 효율성과 수익으로 옮겨가는 이유는 무엇인지 등을 살펴봅니다.

첫째, 인프라 가치의 재발견이 있습니다. 과거에는 철도, 천연가스 파이프라인, 케이블 TV 네트워크 주변의 토지가 특정 산업에 서비스를 제공하다가 통신 및 인터넷 인프라로 탈바꿈했습니다. 오늘날 이와 유사한 자산 재평가가 다시 일어나고 있습니다. 원래 암호화폐 채굴 서비스를 제공하던 일부 신생 클라우드 기업들은 이미 전력, 데이터 센터, 냉각 시스템, 고밀도 컴퓨팅 분야에서 운영 경험을 보유하고 있습니다. 인공지능(AI) 수요의 폭발적인 증가로 이러한 역량은 컴퓨팅 파워의 부족으로 빠르게 이어지고 있습니다. 중요한 점은 AI 인프라 경쟁이 완전히 백지 상태에서 시작되는 것이 아니라는 사실입니다. 초기 우위는 기존 자산, 에너지 자원, 엔지니어링 역량의 재조합에서 비롯되는 경우가 많습니다.

둘째로, 높은 매출 성장률과 수익성 불확실성이 공존한다는 점입니다. 코어위브(CoreWeave)와 같은 신생 클라우드 기업들은 초기 매출 성장률에서 AWS와 같은 거대 클라우드 기업들을 능가하기도 했지만, 자본 시장은 이들을 같은 수준으로 인정하지 않았습니다. 이는 새로운 클라우드 사업이 일반적인 자산 경량형 소프트웨어 사업과는 다르기 때문입니다. GPU 구매, 전력 사용료, 데이터센터 구축, 칩 감가상각비, 부채 이자 등은 규모가 커짐에 따라 증가하며, 심지어 매출 성장률보다 빠르게 증가할 수도 있습니다. 즉, 매출 확장은 AI 컴퓨팅 파워에 대한 강력한 수요를 입증할 뿐, 사업 모델의 자본 수익률이 충분히 높다는 것을 자동으로 증명하는 것은 아닙니다. 시장이 진정으로 주목하는 것은 이러한 기업들이 주문과 매출을 지속 가능한 잉여현금흐름으로 전환할 수 있는지 여부입니다.

셋째, AI의 영향에 따라 소프트웨어 가치가 재정의되고 있습니다. 과거에는 생성형 AI가 SaaS 기업의 경쟁 우위를 약화시킬 것이라는 우려가 있었지만, 아틀라시안의 사례는 AI가 고객 지출 증가와 제품 충성도 향상을 위한 도구로도 활용될 수 있음을 보여줍니다. 한편, 사이버 보안 및 관찰 가능성 소프트웨어는 AI가 잠재적 위험을 증폭시키고 기업의 성숙한 솔루션에 대한 의존도를 높이기 때문에 지속적으로 높은 가치 평가를 받고 있습니다. 이는 이른바 "SaaS 종말"이 모든 곳에서 균일하게 발생하지는 않을 것임을 의미합니다. AI가 제품을 대체할지, 가격을 낮출지, 아니면 수요를 확대할지가 소프트웨어 가치 평가를 차별화하는 새로운 기준이 되고 있습니다.

넷째, AI 애플리케이션은 단순히 토큰을 "쌓는" 것에서 벗어나 최적화하는 방향으로 나아가고 있습니다. 과거에는 기업들이 가장 강력한 모델을 직접 활용하거나 엔지니어링 팀이 독립적으로 실험할 수 있도록 예산을 할당하는 방식을 선호했습니다. 그러나 이제 Databricks와 같은 기업들은 지능형 라우팅을 통해 작업 난이도에 따라 가격과 성능 수준이 다른 모델들을 매칭하여 비용을 절감하면서도 효율성을 유지하고 있습니다. 토큰 가격 하락이 반드시 전체 AI 지출 감소로 이어지는 것은 아닙니다. 단위 비용이 감소하고 적용 시나리오가 증가함에 따라 전체 토큰 소비량과 시장 규모는 계속해서 증가할 수 있습니다. 효율성과 수요는 상호 배타적인 관계가 아니라 상호 강화적인 선순환을 형성할 수 있습니다.

이 글을 한 문장으로 요약하자면, 인공지능 인프라는 빠른 성장을 이끌어낼 수 있음을 입증했지만, 다음 단계의 성공은 기업들이 그 성장을 자본 효율성 향상으로 전환할 수 있는지에 달려 있다는 것입니다. 이러한 관점에서 이 글은 더 이상 코어위브(CoreWeave)와 같은 기업들이 차세대 클라우드 거대 기업으로 성장할 수 있을지에 대한 논의가 아니라, 인공지능 산업 전체가 컴퓨팅 파워 확장에서 지속 가능한 사업 수익 창출로 나아갈 수 있을지에 대한 논의로 확장되었습니다.

다음은 원문입니다.

"새로운 구름"이 머리 위로

20세기 초, 남부 태평양 철도 회사는 미국 전역의 도시와 마을을 연결하는 광활한 미개발 토지를 보유하고 있었습니다. 철도 부지에 대한 권리는 선로 자체를 훨씬 넘어 확장되어 노선을 따라 수많은 개발 가능 지대가 남아 있었습니다.

그래서 철도 회사는 철도 노선을 따라 통신망을 구축하고 이를 "남태평양 철도 내부 네트워크 전화망"이라고 명명했습니다. 1970년대에 이르러 회사는 이 네트워크를 상용화하고 더 많은 사용자가 이용할 수 있도록 개방하기 시작했습니다.

이후 두 가지 일이 동시에 일어났습니다. 첫째, 장거리 전화 시장의 독점 체제가 종식되었고, 둘째, 광섬유 케이블이 상업적으로 실현 가능함을 입증하기 시작했습니다. 기존의 통신망이 광섬유 회선으로 전환되었고, 이 네트워크는 나중에 "스프린트(Sprint)"라는 약자로 알려지게 되었습니다. 이처럼 한때 철도에 사용되었던 자산들이 통신 혁명의 기반 시설을 구축하는 핵심 요소가 되었습니다.

기존의 물리적 네트워크를 대규모 상업용 기술 인프라로 전환하는 것은 철도 회사만이 아닙니다.

1980년대에 윌리엄스 컴퍼니는 유휴 천연가스 파이프라인을 광섬유 채널로 전환하여 윌텔(WilTel)을 설립했습니다. 이 회사는 나중에 매각되어 월드컴(WorldCom)으로 사명을 변경했습니다. 1990년대에는 케이블 TV 서비스를 위해 설치된 단방향 동축 케이블이 대규모의 비용이 많이 드는 업그레이드를 거쳐, 최종적으로 컴캐스트(Comcast)와 차터(Charter)가 소비자에게 광대역 인터넷 서비스를 제공하는 기반 시설이 되었습니다.

이로 인해 또 다른 유형의 기업이 등장하게 되는데, 바로 기존 인프라를 상당 부분 재구성하고 가격을 조정하여 새로운 기술의 요구 사항을 충족하는 기업입니다. 이러한 기업이 바로 "네오클라우드"와 같은 기업입니다.

간단히 말해, 대부분의 신생 클라우드 기업들은 원래 에너지와 컴퓨팅 자원을 많이 소모하는 암호화폐 채굴에 주력하다가 인공지능(AI) 열풍이 불었습니다. 갑자기 전력 사용권, 인프라, 그리고 고강도 컴퓨팅 환경 구축 및 관리 경험(코어위브의 경우 다수의 GPU 포함)을 보유한 기업이 오늘날 가장 유망한 분야 중 하나에 뛰어들게 된 것입니다.

물론 엄밀히 말하면 직접적인 비교는 아닙니다. 하지만 상장된 클라우드 기업 중 상위 3개 기업의 매출 성장률은 실로 놀랍습니다.

초기 단계에 있는 하이퍼스케일 클라우드 서비스 제공업체의 클라우드 사업 매출은 추정치로만 파악할 수 있지만, 전반적인 추세는 이미 분명합니다. 새로운 클라우드 기업들은 매우 빠른 속도로 성장하고 있으며, 이는 초기 단계의 3대 주요 클라우드 서비스 제공업체의 성장률보다 훨씬 빠릅니다.

참고로, 전체 컴퓨팅 파워 판매 시장에서 뉴클라우드는 현재 상대적으로 작은 규모의 업체에 불과합니다.

그들이 초대형 클라우드 서비스 제공업체의 규모에 도달하려면 아직 갈 길이 멀다.

하이퍼스케일 클라우드 제공업체는 신규 클라우드 기업보다 분기별로 훨씬 더 많은 매출을 올립니다. 한편, 코어위브(CoreWeave)는 AWS가 40분기에 달성한 26억 달러의 매출을 약 25분기 만에 달성했습니다. 다시 말해, 이들 기업은 엄청나게 빠른 속도로 성장하고 있습니다.

이처럼 높은 성장률과 AI 산업의 흐름을 타고 있으니 투자자들은 이론적으로 매우 고무될 만하다. 어느 정도는 맞는 말이지만, 현실은 훨씬 더 복잡하다.

이들 기업들이 최근 실적 보고서에서 전반적으로 양호한 결과를 발표했음에도 불구하고, 코어위브의 주가는 지난 1년 동안 약 16% 하락했으며, 네비우스만이 이전 최고가에 비교적 근접한 수준을 유지하고 있습니다.

따라서 이 이야기는 전반적으로 여전히 괜찮지만, 새로 등장한 대형 클라우드 기업들에게는 분명 매력이 떨어집니다.

최근 시장은 비교적 정체 상태인데, 이는 부분적으로 많은 성장 기대치가 이미 주가에 반영되었기 때문일 수 있습니다.

뉴클라우드처럼 자본 집약적인 기업의 경우, 주가매출비율은 가장 적합한 가치 평가 지표는 아니지만, 문제점을 직관적으로 설명하는 데에는 여전히 유용합니다. 네비우스나 어플라이드 디지털처럼 규모는 작지만 빠르게 성장하는 기업들은 훨씬 규모가 큰 코어위브보다 훨씬 높은 밸류에이션 프리미엄을 받고 있습니다. 코어위브의 매출은 여전히 두 배씩 증가하고 있지만, 최고 실적을 내는 기업들의 400~450% 성장률에는 이미 뒤처지고 있습니다.

새로운 클라우드 회사의 진짜 문제는 성장이 아니라 장기적인 수익성입니다. 이 회사는 규모 확장을 위해 칩, 전기, 물리적 인프라에 지속적인 투자가 필요하며, 이러한 비용은 결코 적지 않습니다.

예를 들어 CoreWeave는 인상적인 매출 성장을 기록했지만, 자본 지출은 훨씬 더 엄청납니다. 그 외에도 칩 감가상각비(이미 매출의 절반 이상을 차지함)와 값비싼 인프라를 미리 구축하기 위해 빌린 돈으로 발생하는 이자 비용 증가 등 막대한 비용이 발생하고 있습니다.

이 글은 뉴클라우드의 궁극적인 성공 여부나 현재 주가가 적정한지 판단하려는 것이 아닙니다. 이 글의 진정한 목적은 뉴클라우드가 인공지능 기반 트레이딩 시장 전반에서 벌어지는 강세론자와 약세론자 사이의 치열한 공방을 완벽하게 보여주는 사례라는 점을 설명하는 것입니다.

한편으로, 이들은 이전에는 누구도 예상하지 못했던 규모를 훨씬 뛰어넘는, 그리고 지금도 계속 확장되고 있는 컴퓨팅 파워 시장이라는 수직적 시장에서 전례 없는 성장률을 달성해 왔습니다. 그러나 다른 한편으로, 이러한 기업을 구축하는 비용 또한 사상 최고치를 기록하고 있으며, 지속적으로 가치가 하락하는 고정 인프라에 막대한 투자가 필요합니다.

수평적 SaaS의 귀환인가?

아래는 끊임없이 변화하는 "SaaS 종말론" 시장 상황에 대한 간략한 업데이트입니다. 지난번 소프트웨어 주식 매도세로 가장 큰 타격을 입었던 기업 중 하나가 지난 한 달 동안 상당히 좋은 성과를 보였습니다.

지난 30거래일 동안 수평적 소프트웨어 기업들은 IGV 소프트웨어 ETF에서 최고의 성과를 보였지만, 데이터 수집이 시작된 이후로는 상승분의 일부를 반납했습니다.

전반적으로 이들 기업의 기본 재무 상태는 여전히 견고합니다. 특히 아틀라시안은 시장의 예상과는 달리 AI의 영향으로 주가가 하락하지 않았습니다.

생산성 소프트웨어 회사인 아틀라시안은 실적과 예상치를 모두 뛰어넘었습니다. 클라우드 매출은 전년 대비 31% 증가했으며, 수주 잔고에서 발생하는 매출은 더욱 빠른 속도로 성장했습니다. 하지만 더욱 중요한 신호는 인공지능(AI)이 비즈니스 성장의 걸림돌이 아닌 동력으로 자리 잡고 있다는 점입니다. 아틀라시안은 자사의 AI 비서인 로보(Rovo)가 널리 사용되고 있다고 밝혔으며, 로보 사용자의 지출액은 비사용자의 거의 두 배에 달합니다.

이는 아틀라시안에게도, 로보에게도, 그리고 수평적 SaaS 시장에도 좋은 소식입니다.

하지만 수평형 SaaS의 전반적인 가치 평가는 다른 소프트웨어 범주에 비해 여전히 약간 낮습니다.

몇몇 예외를 제외하면, 아틀라시안을 포함한 수평적 SaaS 기업들은 일반적으로 "성장률 - 기업가치 배수" 추세선에 해당하는 수준보다 낮은 예상 주가매출비율을 보입니다.

다시 한번 강조하지만, 수평형 SaaS는 단지 "한 달" 동안만 상대적으로 좋은 성과를 냈을 뿐입니다. 한 달간의 실적만으로는 "SaaS의 종말"이 모면되었다고 시장을 설득하기에는 턱없이 부족합니다.

물론, 소프트웨어 사업이 사이버 보안이나 관찰 가능성 영역에 속한다면 이야기는 달라집니다. 그런 회사들에게는 소위 "SaaS 종말"은 결코 일어나지 않았습니다.

사이버 보안 부문은 IGV 소프트웨어 ETF에서 다른 부문들을 크게 앞지르며 지속적으로 우수한 성과를 보이고 있습니다. 이러한 추세에 인공지능(AI)이 긍정적인 영향을 미치고 있는데, 시장은 AI가 사이버 보안 위협에 대한 사람들의 위험 인식을 높여줄 것이며, 기업 고객들이 자체적인 보안 솔루션을 구축하기 위해 '바이브 코딩'에 의존하지는 않을 것이라고 믿고 있기 때문입니다.

이러한 논리가 궁극적으로 옳을지는 두고 봐야 할 일입니다. 하지만 적어도 현재로서는 전통적인 소프트웨어 회사들의 상황은 결코 균일하지 않습니다.

투자자들은 인공지능이 모든 기업에 이익을 줄지 아니면 해를 끼칠지 예의주시하고 있으며, 새로운 데이터가 나올 때마다 판단을 수정하는 것은 당연한 일입니다.

토큰 투자 효율성 경계를 향하여

모델 활용, 토큰 소비 및 토큰 지출 관리와 관련된 시장 환경은 다양한 흥미로운 방식으로 지속적으로 진화하고 있습니다.

Databricks를 예로 들어보겠습니다.

"어떤 모델을 사용해야 할까요?" 또는 "어떤 모델이 가장 좋을까요?"와 같은 질문에 대해 Databricks는 승자독식 방식을 택하지 않았고, 엔지니어들에게 예산을 주고 어떻게 쓸지 결정하게 하지도 않았습니다. 대신 "적절한 작업을 적절한 모델에 자동으로 할당하는 솔루션을 개발하면 어떨까?"라는 질문을 던졌습니다.

데이터브릭스가 이러한 사업을 하는 유일한 회사는 아니지만, 자체 개발한 "스마트 라우터"는 성능 면에서 상당히 만족스럽다고 합니다.

Databricks의 라우터는 필요에 따라 더 강력하고 값비싼 모델을 호출하고, 여건이 허락하면 더 약하고 저렴한 모델을 사용할 수 있어 "작업의 평균 비용을 지속적으로 30% 이상 절감"할 수 있다고 합니다.

전반적으로 토큰 지출의 "효율성 한계"를 추구하는 것은 결코 나쁜 일이 아닙니다. 이는 수요가 지속적으로 증가하고 있으며, 애플리케이션 시나리오가 성능 측면에서 최첨단으로 발전할 뿐만 아니라 덜 발전된 모델로까지 확산되고 있음을 의미합니다. 초기에는 이러한 최적화되지 않은 모델들이 곧 쓸모없어질 것이라는 비관적인 전망이 있었습니다.

앞서 언급했듯이 효율성 향상은 수요 범위를 확대할 것이며, 이는 제본스의 역설과 유사하게 시장이 바라는 바로 그러한 역동적인 현상입니다.

실리콘 데이터의 토큰 가격 강도 지수는 전반적인 가격 강도가 하락하고 있음을 보여주는데, 특히 저렴한 오픈 소스 모델이 확장되는 시장에서 더 큰 점유율을 확보함에 따라 이러한 현상이 두드러집니다.

여기서 자주 오해되는 개념을 명확히 할 필요가 있습니다. 이러한 지표는 토큰 지출의 절대적인 금액이 아니라 토큰 사용의 비용 강도를 측정하는 것입니다. 이는 소비된 토큰의 수량과 토큰의 총 가격 모두에 따라 달라집니다. 즉, 토큰당 가격이 하락하더라도 총 토큰 소비량과 총 지출액은 계속 증가할 수 있다는 의미입니다.

진정으로 중요한 것은 전반적인 수요가 지속적으로 증가하고 있다는 점이며, 가격 책정과 모델 선택이 효율성을 향해 나아감에 따라 이러한 성장은 더욱 가속화될 것입니다. 특히 "AI 수요" 또는 "AI 도입"은 단일하고 획일적인 개념이 아니라는 점에 주목해야 합니다. AI를 많이 사용하는 기업과 그렇지 않은 기업 사이에는 여전히 상당한 격차가 존재합니다. 이는 "항상 최적의 모델을 사용하는 것"이 일부 기업에는 효과적일 수 있지만 모든 기업에 적합한 것은 아니라는 점을 분명히 보여줍니다.

현재 시장에는 다양한 대안들이 빠르게 등장하고 있습니다. 전반적으로 이는 긍정적인 현상입니다.

기업 지출 관리 플랫폼인 Ramp의 데이터에 따르면 모든 기업이 AI 관련 지출을 늘리고 있지만, 중간값 지출과 상위 10% 기업 간의 격차, 그리고 상위 10% 기업과 상위 1% 기업 간의 격차는 매우 큽니다.

Ramp의 데이터는 일반적으로 기술 기업에 편향되어 있으므로 해석 시 이 점을 고려해야 합니다. 하지만 데이터에 따르면 지출액 기준으로 상위 10% 기업은 중간 기업보다 직원 1인당 AI 지출액이 약 50배 더 많습니다.

이러한 분포는 우연의 일치가 아닐 가능성이 높습니다. AI 투자에서 더 큰 가치를 창출할 수 있는 기업들이 가장 많은 투자를 하는 기업들일 가능성이 큽니다. 모든 기업이 그런 것은 아니더라도, 상당수의 기업이 이러한 패턴을 따르고 있습니다.

보스턴컨설팅그룹이 상장 기업 107곳을 분석한 결과, 토큰 사용량 상위 20%에 속하는 기업들이 다른 기업들보다 훨씬 빠른 매출 성장을 보인 것으로 나타났습니다.

여기서 핵심은 토큰 수요와 사용 효율성이 상호 강화된다는 점입니다. 즉, 기업이 더 많은 가치를 얻을수록 더 많은 토큰을 소비하게 됩니다.

이 과정은 필연적으로 투입과 수익 간의 반복적인 절충을 수반하며, 연구 개발에는 항상 초기 비용이 수반됩니다. 그러나 대다수 기업에게 있어 무분별하게 "토큰을 축적"하는 것은 결코 효과적인 전략이 아닙니다.

그러므로 앞으로 기업들이 이러한 관행을 더 이상 채택할 필요가 없게 된다는 것은 분명히 좋은 일이다.

최첨단 연구실의 인재 확보 경쟁

뉴미디어는 최근 OpenAI에 두 명의 뛰어난 팀원을 영입했습니다. 이에 맞춰 최첨단 AI 연구소의 인재 채용 현황을 보여주는 몇 가지 흥미로운 차트를 소개하며 마무리하겠습니다.

다리오 아모데이는 최근 직원들이 사명보다 돈을 우선시하는 것에 대해 우려를 표명했습니다. Levels.fyi의 데이터는 이러한 우려가 근거 없는 것이 아닐 수 있음을 시사합니다.

데이터를 문자 그대로 해석한다면, 앤트로픽은 엔지니어들에게 매우 높은 연봉을 지급하며, 이는 구글이나 테슬라와 같은 회사에서 비슷한 자격을 갖춘 엔지니어들이 받는 연봉보다 훨씬 높습니다.

기술팀의 일원이 되는 것은 분명 좋은 일인 것 같습니다.

게다가 매우 흥미로운 또 다른 데이터 세트가 있습니다.

트루이스트 증권이 수집 및 발표한 라이브 데이터 테크놀로지스의 데이터에 따르면, 여러 연구소의 인재 유입 경로는 상당 부분 겹치는 부분도 있고, 뚜렷하게 다른 부분도 있습니다.

두 회사 모두 대형 IT 기업에서 상당수의 인재를 영입했지만, OpenAI만 엔비디아와 테슬라 출신을 영입했고, 두 건 모두 2026년에 이루어졌습니다.

Databricks, Snowflake(최근), Palantir, DeepMind는 모두 두 회사 모두에게 인재를 공급하는 곳입니다.

두 연구소 모두 세일즈포스와 스트라이프에서 상당수의 직원을 채용했습니다.

하지만 두 회사 간의 공통점은 거기서 끝나는 듯하다. 앤스로픽은 SaaS 기업 출신 인재를 많이 영입한 반면, 오픈AI는 거의 영입하지 않았다. 반대로 오픈AI는 소비자 인터넷, 플랫폼 마켓플레이스, 광고 기술 기업 출신을 많이 영입한 반면, 앤스로픽은 에어비앤비, 넷플릭스, 우버를 제외하면 이 분야에서 상대적으로 적은 수의 인재를 채용했다.

이러한 차이점이 무엇을 의미하는지는 여러분 스스로 해석해 보시길 바랍니다.