안전한 초지능 개발을 목표로 설립된 Safe Superintelligence(SSI)가 20억 달러(약 2조 7천억 원) 규모의 투자를 유치하며 기업 가치를 320억 달러(약 43조 원)로 평가받았다고 파이낸셜타임즈가 보도했다. 2024년 6월 설립된 지 1년도 안 된 이 스타트업은 아직 상용 제품이 없음에도 불구하고 AI 업계의 뜨거운 관심을 받고 있다.

SSI는 OpenAI의 공동 설립자이자 전 수석 과학자였던 일리아 수츠케버(Ilya Sutskever)가 애플의 AI 연구를 이끌었던 다니엘 그로스(Daniel Gross), AI 연구자 다니엘 레비(Daniel Levy)와 함께 설립했다. 수츠케버는 지난해 OpenAI에서 샘 알트먼 CEO에 대한 내부 반발 시도 후 회사를 떠난 바 있다.

이번 투자 라운드는 그린옥스(Greenoaks)가 5억 달러 투자로 주도했으며, Lightspeed Venture Partners와 Andreessen Horowitz(a16z) 등 유명 벤처캐피털이 참여했다. SSI는 2024년 9월 10억 달러를 투자받으며 50억 달러 가치를 평가받은 바 있어, 단기간 내 기업 가치가 6배 이상 급등한 셈이다. 이는 저명한 연구자나 엔지니어가 이끄는 AI 스타트업에 대한 투자자들의 강한 수요를 보여준다.

SSI는 OpenAI, Anthropic, 구글 등이 개발한 최첨단 AI 모델을 뛰어넘는 강력하고 지능적인 AI 시스템 구축을 목표로 한다. 캘리포니아 팔로알토와 이스라엘 텔아비브에 사무소를 두고 있으며, 소규모 팀으로 비밀리에 운영되고 있다. 수츠케버는 지난해 파이낸셜 타임즈와의 인터뷰에서 “이전과는 다른 새로운 도전을 발견했다”며 독창적인 AI 개발 방식을 암시했다.

현재 대형 언어 모델은 데이터를 종합하고 재생산할 수 있지만, 인간 지능을 초월하지는 못한다. SSI는 인간의 이익에 부합하도록 AI를 정렬(alignment)시키는 연구에 집중하며, 독특한 모델 개발 및 확장 방식을 탐구 중이라고 회사 관계자들이 전했다. 그러나 구체적인 계획은 투자자들에게도 공개되지 않고 있다.

수츠케버는 OpenAI에서 ChatGPT 등 AI 모델 개발을 주도하며 AI 투자 붐을 일으킨 핵심 인물이었다. 그는 OpenAI를 떠난 후에도 AI 안전성 연구를 이어가고 있으며, SSI는 그의 비전을 실현할 새로운 무대로 주목받는다. 한편, OpenAI의 전 CTO 미라 무라티(Mira Murati)도 최근 씽킹머신랩(Thinking Machines Lab)이라는 AI 스타트업을 설립해 비슷한 규모의 자금 조달을 추진 중이다.