삼성전자도 투자한 AI 보안 ‘앨리스’, 1.4억 달러 유치

챗봇을 속이는 것과 AI 에이전트가 스스로 권한 밖 행동을 하게 만드는 것은 다른 문제다. 오픈AI와 앤트로픽(Anthropic)이 자사 AI로 외부 기업을 해킹하는 시대가 되면서, 공격과 방어 양쪽에 AI가 투입되는 ‘보안 군비경쟁’이 벌어지고 있다. 이 시장에서 앨리스(Alice)가 1억 4,000만 달러를 유치했다고 공식 블로그를 통해 발표했다. 앱스디지털(Apax Digital)이 주도했고 삼성전자·센티넬원(SentinelOne)·마이인베스트(Maj Invest)·모어테크(MoreTech)·피닉스인슈어런스(Phoenix Insurance)가 새로 참여했으며, 기존 투자사 리졸루트벤처스·그로브벤처스·CRV·하이랜드유럽·빈티지인베스트먼츠·노웨스트벤처파트너스·NFX·칼테크도 함께했다. 이번 라운드로 누적 투자금은 2억 8,000만 달러가 됐고, 앱스디지털은 이사회에 합류한다. 보도에 따르면 기업가치는 7억~10억 달러대로 매체마다 다르게 보도됐는데, 회사가 직접 밝힌 수치는 아니다.

앨리스는 2018년 설립된 이스라엘·미국 회사로, 원래 이름은 액티브펜스(ActiveFence)였다. 거의 10년간 페이스북·틱톡·아마존 같은 대형 플랫폼에서 사기·극단주의·조직적 여론 조작 같은 악의적 행위를 추적해 온 신뢰·안전(Trust & Safety) 전문 기업이다. 이 과정에서 쌓은 실제 공격 사례 데이터베이스가 ‘래빗홀(Rabbit Hole)’인데, 회사는 이를 “세계 최대의 실제 적대적·유해 콘텐츠 데이터셋”이라고 설명한다. 지난 1월 회사는 이 데이터셋과 노하우를 AI 모델 보안으로 확장하겠다며 사명을 앨리스로 바꿨다. 창업자 노암 슈워츠(Noam Schwartz) CEO는 “지난해 말 우리가 과거를 버린 게 아니라 미래가 더 커졌다는 걸 깨달았다”고 리브랜딩 배경을 설명했다.

앨리스가 하는 일은 AI 모델의 생애주기 전체에 걸쳐 있다. 모델이 출시되기 전에는 앤트로픽·구글·코히어(Cohere) 같은 프론티어 랩과 협업해 악성 프롬프트와 에이전트 작업을 시뮬레이션하며 탈옥(jailbreak)·프롬프트 인젝션에 대한 방어력을 시험한다. 모델이 서비스에 올라간 뒤에는 기업 고객이 자체 정책을 정의하고, 공격을 시뮬레이션해 컴플라이언스 위험과 데이터 유출 가능성을 찾아내고, 입출력을 실시간 모니터링하도록 돕는다. 150명 이상의 연구자가 소속된 AI 보안 연구소를 운영하고 있으며, 상위 10대 AI 랩 중 8곳과 협력하고, 구글·메타·틱톡·아마존 등을 통해 전 세계 30억 명 이상의 사용자를 보호하고 있다고 밝혔다.

100명 이상의 전문가가 작성한 ‘국제 AI 안전 보고서 2026(International AI Safety Report 2026)’은 방어가 잘 된 모델도 여전히 높은 확률로 뚫릴 수 있으며, 새로운 공격 기법이 방어책보다 빠르게 나오고 있다고 지적했다. 독립 연구기관 METR은 AI 에이전트가 부여된 권한 범위를 벗어나 행동하고, 일부는 이를 인간의 감시로부터 숨기려 한 사례를 수십 건 정리해 두고 있다. 이런 배경에서 AI 보안에 대한 수요가 빠르게 늘면서, 앨리스는 AI 관련 사업이 최근 2년간 500% 넘게 성장해 연매출(ARR) 1억 달러에 근접했다고 밝혔다.

앱스디지털의 패트릭 케인(Patrick Kane) 파트너는 “클라우드로의 플랫폼 전환이 새로운 보안 카테고리를 만들었듯, AI로의 플랫폼 전환도 기업들이 에이전트를 도입할수록 더 넓어질 공격 표면을 열고 있다”고 밝혔다. 앱스디지털의 에릭 레바인(Eric Levine) 부사장은 “실제 발견된 공격이 테스트 케이스가 되고, 테스트가 가드레일을 조정하며, 운영 중인 모델의 행동이 다시 두 과정에 피드백되는 구조”라며 “관측된 공격과 신규 고객이 늘어날수록 이 순환은 더 강해진다”고 덧붙였다. 조달한 자금은 AI 플랫폼 기술 고도화, 래빗홀 데이터셋을 다루는 조직 확대, 파운데이션 모델 랩과 기업 고객을 대상으로 한 영업 조직 확장에 쓰인다.

AI 보안 시장에는 이미 여러 플레이어가 자리 잡고 있다. 스위스 기반 라케라(Lakera)는 최근 체크포인트(Check Point)에 인수됐고, 프로텍트AI(Protect AI)도 팔로알토네트웍스(Palo Alto Networks)에 인수되며 대형 보안 기업들이 AI 보안 스타트업을 흡수하는 흐름을 만들었다. 히든레이어(HiddenLayer)는 인수 없이 독립 기업으로 남아 있다. 국내에서도 AI 보안 운영센터를 표방하는 테넥스에이아이(TENEX.AI)가 올해 4월 2억 5,000만 달러를 유치하며 기업가치 10억 달러를 넘겼다. 사이버보안 스타트업 지형 전반에 대한 자세한 내용은 여기를 참고하시길.