네오코그니션, 4천만 달러 시드 투자 유치.. “AI 에이전트, 인간처럼 배워야 믿을 수 있다”

에이전트에게 업무를 맡겼다가 낭패를 본 적 있다면, 이 문제를 정면으로 파고드는 스타트업이 있다. 네오코그니션(NeoCognition)이다. 오하이오주립대학교(Ohio State University)에서 AI 에이전트를 연구해 온 학자가 창업한 이 회사는 4천만 달러 규모의 시드 투자를 유치하며 스텔스 상태에서 공개 무대로 나왔다고 발표했다.

지금의 AI 에이전트는 대부분 ‘제너럴리스트(generalist)’다. 어떤 도메인에서든 똑같은 방식으로 작동하고, 어떤 태스크든 처음 만나는 것처럼 접근한다. 그 결과는? 태스크 성공률이 약 50%에 불과하다. 매번 에이전트에게 업무를 맡기는 건 일종의 도박에 가깝다. 네오코그니션의 CEO 유 수(Yu Su)가 지적하는 문제다.

에이전트가 ‘경력’을 쌓게 하다

인간은 어떻게 전문가가 되는가. 새 환경에 뛰어들어 그 구조와 규칙, 관계를 파악하고, 점점 더 빠르고 정확하게 판단하게 된다. 네오코그니션은 바로 이 과정을 AI 에이전트에게 구현하려 한다. 에이전트가 특정 업무 환경에 진입하면 그 환경의 워크플로우, 제약 조건, 내부 구조를 자율적으로 학습해 해당 업무의 ‘내부 작동 모델(internal model of work)’을 형성한다. 이 모델이 쌓일수록 에이전트는 더 빠르고 정확하며 비용 효율적으로 작동한다.

유 수는 “인간의 학습 과정이란 결국 자신이 속한 직업, 환경에 대한 구조적 모델을 쌓아가는 과정”이라며 “에이전트가 전문가가 되려면 스스로 각자의 ‘마이크로 월드’에 대한 모델을 구축해야 한다”고 밝혔다. 이 자율 학습 능력이 AI가 진정한 독립적 실무자로 기능하기 위한 결정적 연결고리라는 설명이다.

챗GPT 이전부터 에이전트 연구를 해온 팀

네오코그니션의 연구적 뿌리는 깊다. 유 수는 오하이오주립대학교 컴퓨터 사이언스 & 엔지니어링 학부 부교수이자 슬론 리서치 펠로우(Sloan Research Fellow)로, 오하이오주립대 NLP 연구 그룹을 공동 이끌어 왔다. 그의 팀은 챗GPT 등장 이전부터 LLM 기반 에이전트 연구를 시작했고, AI 에이전트 분야의 기초를 다진 Mind2Web, MMMU, SeeAct 등 주요 연구를 발표했다. 이 연구들은 현재 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글(Google)의 최신 대형 언어 모델에 폭넓게 활용되고 있다.

공동창업자는 세 명이다. 유 수 CEO 외에 샹 덩(Xiang Deng)과 유 구(Yu Gu)가 함께 창업에 나섰다. 유 구는 오하이오주립대 박사 과정에서 에이전트 학습 연구를 이어온 인물이다.

유 수는 벤처캐피털의 상업화 압박을 한동안 거부해왔다. 지난해 파운데이션 모델의 발전이 에이전트의 진정한 개인화 가능성을 열어준다는 확신이 생기면서 비로소 연구실을 스핀아웃해 창업을 결심했다.

투자 구성: 캄비엄 캐피털·월든 캐털리스트 공동 주도

이번 4천만 달러 시드 라운드는 캄비엄 캐피털(Cambium Capital)과 월든 캐털리스트 벤처스(Walden Catalyst Ventures)가 공동 주도했다. 비스타 에쿼티 파트너스(Vista Equity Partners)가 참여했으며, 엔젤 투자자로는 인텔(Intel) CEO 립-부 탄(Lip-Bu Tan), 데이터브릭스(Databricks) 공동창업자 이온 스토이카(Ion Stoica)가 이름을 올렸다. AI 석학인 던 송(Dawn Song), 루슬란 살라흐우티노프(Ruslan Salakhutdinov), 루크 제틀모이어(Luke Zettlemoyer)도 창업 어드바이저로 참여한다.

비스타 에쿼티 파트너스의 참여는 단순한 재무적 투자를 넘어 전략적 의미를 지닌다. 비스타는 소프트웨어 분야 최대 프라이빗 에쿼티 중 하나로, AI를 통해 제품을 현대화하려는 수많은 포트폴리오 기업을 보유하고 있다. 네오코그니션은 이 네트워크를 통해 기업 고객을 빠르게 확보할 수 있을 것으로 기대한다. 현재 직원은 약 15명으로, 대다수가 박사 학위 소지자다. 본사는 캘리포니아주 팔로알토에 있다.

B2B SaaS 전략: 에이전트 시스템을 기업에게

네오코그니션의 비즈니스 모델은 에이전트 시스템을 기업에 직접 판매하는 것이다. 특히 기존 SaaS 기업들을 주요 고객으로 삼는다. 이들은 네오코그니션의 에이전트 시스템을 자사 제품에 통합해 ‘에이전트 직원’을 구현하거나, 기존 제품의 기능을 강화하는 방식으로 활용할 수 있다.

에이전틱 AI 생태계의 6개 레이어 중 네오코그니션은 에이전트 런타임·인프라 레이어에 해당한다. 최종 사용자 앱을 직접 만드는 것이 아니라, 어떤 도메인에서든 스스로 전문화할 수 있는 에이전트 엔진을 기업에 제공하는 구조다.

기업용 에이전트 시장에는 세일즈포스 에이전트포스(Salesforce Agentforce), 마이크로소프트 코파일럿 스튜디오(Microsoft Copilot Studio) 같은 빅테크 플랫폼들이 이미 자리를 잡고 있다. 이들은 막강한 기존 고객 기반을 앞세워 에이전트 기능을 빠르게 확장하고 있다. 그러나 네오코그니션이 노리는 것은 이와는 다른 지점이다. 빅테크 플랫폼들이 ‘어떻게 에이전트를 만드느냐’에 집중한다면, 네오코그니션은 ‘에이전트가 스스로 어떻게 전문가가 되느냐’라는 학습 메커니즘 자체를 해결하려 한다. 자율 전문화 에이전트 엔진이라는 이 카테고리는 아직 시장 선점자가 없는 새로운 영역이다.