실리콘밸리의 대표적인 벤처 캐피털(VC) 앤드리슨 호로위츠(Andreessen Horowitz, a16z)의 공동 창업자 벤 호로위츠(Ben Horowitz)가 최근 확산되고 있는 ‘AI 거품론’을 정면으로 반박하며, AI 산업이 ‘모델(Model)’ 경쟁에서 ‘응용(Application)’과 ‘오케스트레이션(Orchestration)’의 단계로 진화하고 있다고 진단했다.

그는 최근 공개된 대담을 통해 AI 시장의 현황과 벤처 캐피털의 본질적인 역할에 대해 깊이 있는 통찰을 내놓았다. 900억 달러 이상의 운용 자산을 보유한 a16z는 지난 1월 단일 라운드로 150억 달러를 추가 모금하며 2025년 미국 전체 벤처 캐피털의 18% 이상을 차지할 만큼 압도적인 영향력을 과시하고 있다.

AI는 닷컴 버블과 다르다… 허상 아닌 ‘실수요’가 증명

벤 호로위츠는 현재의 AI 열풍이 2000년대 초반 실체가 없던 ‘닷컴 버블’과는 근본적으로 다르다고 선을 그었다. 당시에는 인터넷 트래픽에 대한 막연한 기대만 있었지만, 지금은 기업 현장의 절박한 필요가 시장을 떠받치고 있다는 것이다.

“닷컴 버블은 허상에 가까웠지만, 지금의 AI 붐은 ‘실질적 수요(Real Demand)’에 기반하고 있습니다. 전 세계 기업들이 생산성을 높이고 비용을 절감하기 위해 실제로 AI 도입을 원하고 있으며, 칩(Chip)과 데이터 센터에 투입되는 막대한 자본이 이를 증명합니다.”

그는 AI를 인터넷에 버금가는 새로운 컴퓨팅 플랫폼으로 규정하며, 이것이 실질적인 경제적 영향력을 창출하고 있다고 강조했다. 실제로 API 모델 사용과 파인튜닝 지출만 2024년 말 기준 50억 달러를 돌파했으며, 생성형 AI 시장은 2025년까지 426억 달러 규모에 이를 것으로 전망된다.

거대 모델만으론 부족… ‘오케스트레이션’이 승부처

그는 기술 경쟁의 양상이 바뀌고 있음을 지적했다. 지금까지가 더 똑똑하고 거대한 언어 모델(LLM)을 만드는 경쟁이었다면, 앞으로는 그 모델들을 어떻게 연결하고 활용하느냐가 핵심이 될 것이라는 분석이다.

호로위츠는 이를 ‘오케스트레이션(Orchestration, 조율)’이라는 단어로 요약했다. 이는 단순히 챗봇 하나를 두는 것이 아니라, 랭체인(LangChain)이나 랭그래프(LangGraph)와 같은 기술을 활용해 여러 AI 모델을 연결하고, 외부 데이터를 검색하며, 복잡한 업무 흐름을 스스로 수행하게 만드는 ‘설계 능력’을 의미한다.

“이제 단순히 기반 모델(Foundation Model)을 보유하는 것만으로는 부족합니다. 앞으로의 승부처는 ‘애플리케이션 디자인’과 여러 모델을 적재적소에 배치하여 워크플로우를 완성하는 ‘오케스트레이션’ 능력에 달려 있습니다.”

즉, 사용자에게 실질적인 가치를 제공하기 위해 AI라는 악기들을 지휘하여 교향곡(서비스)을 만들어내는 능력이 기업의 생존을 결정짓는다는 것이다. a16z가 2024년 발표한 ‘LLM 애플리케이션을 위한 새로운 아키텍처’ 분석에서도 랭체인과 같은 오케스트레이션 프레임워크가 프롬프트 체이닝, 외부 API 인터페이스, 벡터 데이터베이스에서의 맥락 데이터 검색, 여러 LLM 호출 간의 메모리 유지 등을 추상화하면서 핵심 역할을 하고 있음을 강조했다.

실제로 랭체인은 월 9000만 다운로드와 10만 개 이상의 깃허브 스타를 기록하며, 취미 개발자부터 스타트업까지 가장 널리 사용되는 오케스트레이션 프레임워크로 자리 잡았다. 특히 랭그래프를 활용한 복잡한 제어 흐름 관리는 에이전트가 실패를 극복하고 작업을 재개할 수 있는 내구성 있는 실행을 보장한다. 2024년 말부터 2025년 초 사이 일립시스(Ellipsis)는 랭체인의 오케스트레이션 기능 덕분에 하루 50만 건의 요청과 8000만 개의 토큰을 처리하면서도 디버깅 시간을 90% 단축했다.

VC는 ‘준비된 마음’ 가져야… 미션은 사람들에게 기회를 주는 것

벤 호로위츠는 급변하는 기술 환경 속에서 벤처 캐피털(VC)이 가져야 할 태도에 대해서도 강조했다. 그는 투자의 결과는 10년 뒤에나 알 수 있기에, 결과론적인 평가보다는 투자 시점의 판단 과정을 중요하게 여겼다.

“투자자는 결과가 나온 먼 훗날이 아니라, ‘투자 결정을 내릴 당시’에 얼마나 ‘준비된 마음(The Prepared Mind)’과 올바른 판단 근거를 가졌느냐로 평가받아야 합니다.”

이러한 ‘준비된 마음’은 공동 창업자 마크 앤드리슨(Marc Andreessen)이 강조해온 a16z의 핵심 철학 중 하나다. 이를 위해 a16z는 제너럴리스트가 아닌 각 분야(AI, 바이오, 게임 등)의 깊이 있는 전문가들로 조직을 구성하는 수직적(Vertical) 구조를 택했다고 밝혔다. 회사는 AI 인프라, 성장 투자, 앱, 바이오헬스, 핀테크, 게임, 암호화폐, 아메리칸 다이나미즘(국가 안보 및 국익 관련 기술) 등으로 전문화된 팀을 운영하며, 각 영역에서 “세계 최고 수준”의 전문가를 찾는 데 집중하고 있다.

마지막으로 그는 a16z와 벤처 캐피털의 존재 이유를 “기회를 주는 것(Giving people a shot)”이라고 정의했다. 이는 거대 자본이 없어도 혁신적인 아이디어와 능력을 갖춘 개인이라면 누구나 세상에 도전할 수 있도록 돕겠다는 의지다.

“우리의 미션은 명확합니다. 배경이 아닌 능력과 비전이 있는 사람들에게 ‘기회를 주는 것(Giving people a shot)’입니다. 실패할 수도 있지만, 세상을 바꿀 잠재력이 있는 이들에게 도전할 수 있는 티켓을 쥐여주는 것이 우리의 역할입니다.”

벤 호로위츠는 이번 AI 혁명이 과거 모바일이나 인터넷 혁명보다 “더 많은 승자(More Winners)”를 배출할 것이라 전망하며, M&A 시장의 부활과 함께 스타트업 생태계가 다시 활기를 띨 것으로 내다봤다. 

a16z는 현재 오픈AI(OpenAI), 스페이스X(SpaceX), xAI, 데이터브릭스(Databricks), 스트라이프(Stripe), 리볼루트(Revolut), 웨이모(Waymo), 위즈(Wiz) 등 기업가치 상위 15개 비상장 기업 중 10개에 투자하고 있으며, AI 유니콘 전체 기업가치의 44%를 차지하는 포트폴리오를 보유하고 있다. 2009년부터 2025년까지 a16z는 50억 달러 이상 기업가치로 성장한 기업들의 초기 라운드 31건을 리드했는데, 이는 다음 2개 경쟁사 합산보다 50% 많은 수치다.