구조화 의사결정 AI 타입세이프, 4,000만 달러 시드 투자유치

챗봇은 사람을 상대로는 놀랍도록 뛰어나졌다. 문제는 그 능력을 소프트웨어 안에 그대로 박아 넣으려 할 때 생긴다. 같은 질문에 매번 다른 방식으로 답하고, 근거 없는 답을 확신에 차서 내놓고, 확률을 물어봐도 과신하기 일쑤다. 그래서 프로덕션 시스템은 결국 AI의 답을 사람이 다시 검토하는 단계를 덧붙이게 된다.

샌프란시스코의 타입세이프AI(TypeSafe AI)는 이 문제를 “애초에 다른 모델을 만들어야 한다”는 결론으로 풀었다. 지난 15일(현지시간) 스텔스 모드를 끝내며 첫 공개 모델 젭(Jev)을 선보였다. 회사가 ‘시스템원 모델(System One Model)’이라 부르는 새로운 모델 계열의 첫 사례다.

반응은 즉각적이었다. 공개 직후 API 요청이 몰리면서 한때 서비스 자체가 버티지 못할 정도였다고 회사 측은 밝혔다. 출시 며칠 만에 아라이즈(Arize)·포브스·더레지스터 등이 앞다퉈 분석 글을 냈고, 실제로 써본 개발자들의 평가도 SNS에 쏟아졌다. 에이전트 인프라 기업 버셀(Vercel)의 엔지니어 프라니트 샤르마는 명령어 안전성 검토용 분류기를 오픈AI 모델에서 젭으로 바꾼 뒤 “5~18배 빠른 결과를 더 높은 정확도로” 얻었다고 밝혔다. 브라이오AI(Bryo AI)의 CTO 니킬 무드홀카르는 이메일 분류 작업에서 제미나이가 정확도는 조금 더 높았지만 비용은 10~20배 더 들었다며 “실제 신뢰도를 반영하는 확률값을 돌려주는 건 젭이 유일했다”고 평가했다.

젭은 대화형 언어모델(LLM)이 아니다. 문장을 생성하지 않고, 미리 정의된 선택지 안에서 확률이 딸린 ‘타입화된 결정값’만 내놓는다. 예를 들어 보험 심사라면 “이 매물에 화재가 날 확률은?”이라는 구조화된 질문에 확률값으로 답하는 식이다. 결과의 형태를 개발자가 미리 정해두기 때문에 스키마를 벗어난 답이 나올 수 없고, 토큰을 한 자씩 순차 생성하는 대신 병렬로 한 번에 뽑아내 속도가 훨씬 빠르다.

회사에 따르면 젭은 프론티어 모델과 비슷한 수준의 판단력을 유지하면서도 응답 속도는 70~500밀리초로, 프론티어 모델의 3~329초보다 최대 수백 배 빠르다. 가격도 입력 토큰 100만 개당 4.2센트이고 출력 토큰은 아예 과금하지 않는다. 회사가 자체 워크플로로 측정한 결과로는 특정 작업에서 기존 LLM 대비 최대 193.6배 빠르고 444.6배 저렴했다고 밝혔다.

다만 이 수치는 회사가 직접 설계한 벤치마크이고, 제3자 검증은 아직 없다. 회사 스스로도 “실제 환경에서는 워크로드·리전·비교 방식에 따라 달라질 수 있다”고 선을 그었다. “환각이 없다”는 주장에도 결이 있다 — 젭이 보장하는 건 “정의된 형식을 벗어난 답이 나오지 않는다”는 것이지, “답이 항상 맞다”는 뜻은 아니다. 스키마를 지킨 오답도 얼마든지 나올 수 있다는 얘기다.

타입세이프AI는 디오구 알메이다(Diogo Almeida)가 에릭 가프니(Erik Gafni), 사샤 셍(Sasha Sheng)과 함께 2024년 창업했다. CEO를 맡은 알메이다는 오픈AI에서 인간 피드백 기반 강화학습(RLHF)을 공동 개발하고 InstructGPT·챗GPT·GPT-4 작업에 참여했던 인물이다. 그는 “우리는 인간의 언어에 최적화하는 데는 성공했지만, 정작 컴퓨터는 다른 언어를 쓴다는 게 문제였다”고 말했다.

알메이다는 2년의 스텔스 기간 동안 젭을 ‘합성 데이터’로만 학습시켰다고 밝혔다. 그는 “우리 모든 데이터를 직접 만들기로 한 이른 결정이 내 인생 최고의 베팅 중 하나였다”고 말했다.

타입세이프AI는 DCVC가 주도한 4,000만 달러 규모 시드 투자를 유치했다. 포브스는 거래에 정통한 관계자를 인용해 이번 라운드에서 회사 가치를 2억 달러로 평가했다고 보도했다 — 회사가 공식 확인한 수치는 아니다. 투자금은 조직 확장과 모델 개발에 쓰인다.

DCVC의 제임스 하디먼(James Hardiman) 제너럴 파트너는 “타입세이프는 AI에 남은 가장 큰 과제 중 하나, 즉 모델을 대규모로 제품에 내장해도 될 만큼 신뢰할 수 있게 만드는 문제를 다루고 있다”고 말했다.

이런 유형의 모델은 현재로선 타입세이프가 유일하다. 오픈소스 모델 하네스 ‘파이(Pi)’를 만드는 에어렌딜(Earendil)의 아민 로나커(Armin Ronacher) CTO는 테크크런치와의 인터뷰에서 “지금은 젭이 이런 종류의 모델로는 혼자”라면서도 “이게 통한다는 게 알려진 이상 경쟁자가 곧 나타날 것”이라고 말했다. 그는 젭의 쓰임새로 LLM 에이전트를 감시하는 역할과, 어떤 작업에 어떤 모델을 붙일지 실시간으로 판단하는 ‘모델 라우팅’을 꼽았다.

같은 문제(느리고 비싸고 일관성 없는 LLM)를 다른 방식으로 푸는 진영도 있다. 그록(Groq) 같은 추론 가속 인프라 기업들은 새 모델을 만드는 대신 기존 프론티어 모델을 전용 칩으로 더 빠르고 싸게 돌리는 쪽을 택했다. AI 평가·가드레일 기업들은 반대로 LLM의 출력을 사후에 검증·점수화하는 계층을 쌓아왔다 — 실제로 아라이즈(Arize)는 젭 출시 직후 “결정 모델이 LLM 심사역을 대체할 수 있는가”라는 분석을 자체 블로그에 올리기도 했다. 타입세이프는 이 둘과 달리 “애초에 틀릴 수 없는 형태로 답하는 모델을 새로 학습시킨다”는 세 번째 길을 택한 셈이다. 젭은 현재 대기명단을 통해 얼리 액세스로 제공된다.