“욕설 3분의 1로 감소” 카카오, 뉴스 댓글 서비스에 ‘세이프봇’ 적용 성과 공개
카카오가 AI 기반 댓글 필터링 기능인 ‘세이프봇’의 성과 분석 결과를 14일 공개했다. 카카오의 발표에 따르면 2020년 12월, 세이프봇 도입 후 욕설이나 비속어가 포함된 댓글과 이용자의 신고한 욕설 댓글 비중 등이 크게 줄어들었고 인터넷 댓글 문화의 건강성이 높아졌다.
세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다. 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.
세이프봇 적용 전인 2020년 하반기와 적용 이후인 2021년, 2022년 월평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 줄었다. 욕설이 포함되어 음표로 자동 치환된 댓글 수가 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소했다.
전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 또한 이용자의 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7% 감소하며, 12분의 1 수준으로 줄어들었다.
이는 세이프봇의 능동적 조치로 댓글 문화가 점차 성숙해진 결과라는 분석이다. 세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자들도 자발적으로 건전한 댓글 문화에 동참하게 된 것. 이에 따라 댓글 공론장의 건강성이 향상된 것으로 보인다.
카카오는 기술을 통해 사회 문제를 해결하겠다는 목표 하에, AI를 활용한 건강한 댓글 생태계 조성에 힘써왔다. 그 일환으로 2017년 7월 업계 최초로 ‘욕설 음표 치환 기능’을 적용했다. 2020년 12월에는 해당 기능을 더욱 고도화한 세이프봇을 시범 적용하고, 2021년 12월 본격 도입했다. 현재 포털 다음(Daum)과 카카오톡 뷰 탭 뉴스 댓글 서비스에 적용 중이다.
카카오는 AI 기술을 고도화해 세이프봇의 성능을 더욱 강화하겠다는 방침이다. 지난 8월 증오발언 대응을 위한 ‘코딩북(Coding Book)’ 제작에 나선 가운데, 증오발언을 판별하는 학습 데이터를 구축하고 내년 상반기에 이를 세이프봇에 적용한다.
김종한 카카오 다음사업개발실장은 “카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다”며 “앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술의 고도화에 노력할 것”이라고 말했다.
- 키노라이츠, ZVC-카카오벤처스서 20억원 규모 시리즈A 투자 유치
- SBS문화재단x한국투자액셀러레이터, ‘미디어/콘텐츠 스타트업 콘테스트’ 참가팀 모집(~4월5일)
- 엑스엘에이트, 글로벌 데이터 플랫폼 보안 인증 ‘SOC 2’-‘TPN’ 획득
- 뉴스럴, ‘PR지원 패키지’ 정식 출시.. “포트폴리오 기사 모니터링 및 보도자료 배포”
- TWIGFARM Secures Series A Investment from SBS for AI-driven Content Localization
- 🎙️트위그팜, SBS서 시리즈A 투자 유치…해외 진출 본격화
- XL8 Secures $7.5 Million in Funding to Advance AI-Powered Machine Translation and Localization Solutions
- AI번역 ‘엑스엘에이트’, 100억원 규모 시리즈A 투자 유치…누적 투자금 150억원 확보
- 더존비즈온, 560억원에 전자신문 인수…”유망 기업 발굴 등 시너지 기대”
- MZ세대 비즈니스·경제 미디어 ‘바이트컴퍼니’, 팁스 선정
