AI 안전 스타트업인 Safe Superintelligence(SSI)가 10억 달러를 투자받으며 유니콘 반열에 올랐다. 이 회사는 전 오픈AI 연구원인 일리야 수츠케버(Ilya Sutskever)와 다니엘 레비(Daniel Levy), 그리고 유명 엔젤 투자자 다니엘 그로스(Daniel Gross)가 공동 창업했다.

이번 투자에서 SSI의 기업 가치는 50억 달러로 평가됐으며, 안드레센 호로위츠(Andreessen Horowitz : a16z), 세쿼이아(Sequoia), DST 글로벌(DST Global), SV 엔젤(SV Angel), 그리고 전 GitHub CEO 나트 프리드먼(Nat Friedman)과 그로스가 운영하는 투자 그룹 NFDG가 참여한 것으로 알려졌다.

SSI가 빠르게 유니콘 지위에 오른 것은, 유능한 인재를 확보하는 것이 벤처캐피털로부터 막대한 자본을 유치할 수 있음을 보여준다.

SSI의 목표는 안전한 초지능 개발로, 창립자들은 이를 “우리 시대의 가장 중요한 기술적 과제”로 설명하고 있다. 수츠케버(Sutskever)는 최근 몇 달 사이 오픈AI를 떠난 여러 고위급 인재들 중 한 명으로, 오픈AI의 CEO인 샘 알트먼과 AI 안전 문제와 관련해서 갈등을 밪은 바 있다. 오픈AI는 지난 5월 장기적인 AI 위험 연구를 전담했던 팀을 해체했다.

한편, NFDG는 이 분야의 네트워크를 활용해 AI 투자 시장에서 빠르게 두각을 나타내고 있다. 신생 회사인 NFDG는 20억 달러 이상의 자금을 확보하고, 20건 이상을 투자했다. 여기에는 Scale AI, ElevenLabs, Perplexity도 포함된다. 

최근 AI 모델 안전에 대한 투자는 딥페이크와 모델 환각 등 위험을 해결하기 위해 등장하는 회사들이 늘어나면서 더욱 활기를 띠고 있다.