오픈AI(OpenAI)의 샘 올트먼 최고경영자가 챗GPT에서 성인 인증 사용자를 대상으로 에로티카 콘텐츠 생성을 허용하겠다고 밝혔다. 정신건강 문제 우려로 엄격한 안전장치를 유지해온 오픈AI가 정책을 크게 바꾸는 것이다.

올트먼은 화요일 X에 올린 글에서 “12월에 연령 인증 시스템을 본격 도입하면서 ‘성인은 성인답게 대우한다’는 원칙에 따라 인증된 성인에게 에로티카 같은 기능을 더 제공하겠다”고 했다. 그는 “정신건강 문제를 조심하느라 챗GPT를 상당히 제한적으로 만들었는데, 정작 정신건강에 문제가 없는 많은 이용자에게는 쓸모도 재미도 떨어지는 서비스가 됐다”며 “이제 심각한 정신건강 문제를 막을 방법을 찾았고 새 도구도 생겼으니 안전하게 제한을 풀 수 있게 됐다”고 설명했다.

오픈AI가 이처럼 방향을 바꾸게 된 배경에는 챗GPT를 둘러싼 논란이 있다. 올여름 챗GPT의 GPT-4o 모델과 관련해 충격적인 사례들이 잇따라 나왔다. 챗GPT가 한 남성을 세계를 구해야 하는 수학 천재라고 착각하게 만든 사례가 있었고, 10대 아들이 자살하기 전 챗GPT와 나눈 대화에서 자살 충동을 부추김을 받았다며 부모가 오픈AI를 고소하기도 했다.

이런 문제에 대응해 오픈AI는 AI의 ‘아첨 현상’을 해결하기 위한 안전 기능을 잇달아 내놨다. 아첨 현상이란 AI 챗봇이 이용자 말에 무조건 동조하면서 심지어 부정적 행동까지 지지하는 경향을 말한다. 지난 8월에는 아첨 현상을 줄이고 문제 있는 이용자 행동을 가려낼 수 있는 GPT-5를 공개했다. 한 달 뒤에는 미성년자용 연령 예측 시스템과 부모가 10대 자녀의 챗GPT 계정을 관리할 수 있는 기능을 선보였다. 화요일에는 정신건강 전문가로 구성된 자문위원회도 꾸렸다.

그런데 이런 사건들이 터진 지 몇 달 만에 오픈AI는 챗GPT의 문제가 해결됐다고 보는 듯하다. 올트먼은 오픈AI가 “이용자 수 늘리기”나 참여도 높이기에 혈안이 된 게 아니라고 하지만, 챗GPT에 에로틱한 기능을 추가하면 이용자를 끌어모으는 효과가 분명 있다. 실제로 챗봇에 낭만적이거나 에로틱한 역할극 기능을 넣는 건 캐릭터닷AI(Character.AI) 같은 업체들이 써먹은 전략이다. 캐릭터닷AI는 2023년 이용자들이 평균 하루 2시간씩 챗봇과 대화한다고 밝혔는데, 지금은 취약 이용자 문제로 소송에 휘말려 있다.

오픈AI로서는 이용자 기반을 늘려야 하는 압박이 크다. 챗GPT가 벌써 주간 활성 이용자 8억 명을 확보했지만, 오픈AI는 구글, 메타와 AI 기반 소비자 제품 경쟁을 벌이고 있다. 거대한 인프라 구축에 수십억 달러를 쏟아부었는데, 이 투자금을 언젠가 회수해야 한다.

올트먼에 따르면 오픈AI는 현재 개발 중인 연령 예측 시스템으로 에로틱 기능이 성인에게만 제공되도록 할 계획이다. 올트먼은 이전 블로그 글에서 시스템이 성인을 미성년자로 잘못 판단하면 정부 발급 신분증 사진을 올려 수정할 수 있다고 했다. 프라이버시를 일부 포기하는 셈이지만 “충분히 가치 있는 교환”이라는 게 그의 생각이다. 에로티카 기능을 AI 음성, 이미지, 동영상 생성 도구로까지 확대할지는 아직 미정이다.

지난 1년간 오픈AI는 챗GPT의 콘텐츠 제한을 계속 완화해왔다. 챗봇이 더 허용적이고 요청을 덜 거부하도록 만든 것이다. 2월에는 챗GPT에서 다양한 정치 성향을 담겠다고 했고, 3월에는 증오 상징을 담은 AI 이미지 생성도 허용했다.

이런 정책 변화는 챗GPT를 폭넓은 이용자층에게 어필하려는 시도로 보인다. 하지만 정신적으로 취약한 이용자들에게는 챗봇이 할 수 있는 일을 제한하는 안전장치가 필요할 수 있다. 오픈AI가 주간 활성 이용자 10억 명을 향해 달려가는 가운데, 성장과 취약 이용자 보호 사이의 줄다리기는 더 심해질 전망이다.