네이버가 악성 댓글을 걸러내는 '클린봇' 기술을 다른 사이트나 앱에서도 활용할 수 있도록 공개하며 건강한 댓글 문화 조성에 나선다.

26일 IT 업계에 따르면 최경호 네이버 미디어인텔리전스 소속 개발자는 전날 열린 네이버 개발자 콘퍼런스 '데뷰 2020'의 '조금 더 아름다운 댓글 경험을 위해서' 세션에서 이 같은 내용을 소개했다.

그는 네이버가 클린봇의 응용프로그램 인터페이스(API)를 조만간 오픈 API로 공개한다고 발표했다. 오픈 API란 인터넷 이용자 혹은 애플리케이션 개발자가 직접 응용 프로그램과 서비스를 이용할 수 있도록 공개한 기술의 프로그래밍 규격이다. 쇼핑몰 앱에서 네이버로 가입·로그인하거나, 기업이 회사 위치를 구글 맵으로 알리는 것 등이 대표적인 오픈 API 사례다. 네이버는 현재 '네이버 개발자 센터'를 통해 일부 네이버 기술의 오픈 API를 제공하고 있다.

네이버에서 악성 댓글을 줄이기 위해 자체 개발한 클린봇은 AI 기술을 기반으로 악성 댓글을 잡아내는 역할을 한다. 지난해 4월 첫 선보인 이후 현재 스포츠, 쥬니버, 연예, 뉴스 등에 적용되어 있으며, 욕설과 비속어가 들어간 댓글을 탐지해 자동으로 블라인드 처리하고 있다.

이후 네이버는 지난 6월 클린봇을 업그레이드 하며 악성 댓글의 탐지 범위를 넓혔다. 클린봇의 악성 댓글 판단 기준이 '욕설 단어'에서 '문장 맥락'을 고려하는 것으로 확대되어, 비속어를 포함하지 않았더라도 모욕적인 표현이나 무례한 댓글을 탐지할 수 있게 된 것이다.

올해 상반기 기준으로 욕설 사이에 이모티콘이나 오타를 넣은 사례까지 모두 거르는 클린봇 2.0의 정확도는 95%에 달했다. 클린봇 도입 이전 대비 악플 탐지 건수는 2배가량 늘었고, 악성 댓글 신고 건수는 19% 줄었다.

네이버는 성희롱이나 언어 성폭력을 막기 위한 '클린봇 레드'와 '클린봇 오렌지' 버전도 개발하고 있다. 성희롱 댓글의 경우 일반적인 악성 댓글보다 섬세한 접근이 필요하다고 판단해서다.

레드 모델은 텍스트만으로 명백한 성희롱이거나 음란성 의도가 보이는 댓글을 걸러내고, 오렌지 모델은 댓글 텍스트 자체에는 성적인 표현이 없지만 기사나 게시글 본문과 이어지는 맥락이 있거나 성 인지 감수성 관점에서 봤을 때 부적절한 댓글을 걸러낸다. 예컨대 오렌지 모델은 '세계에서 가장 섹시한 골퍼', '오늘은 이거다' 같은 댓글도 성희롱으로 인지해 차단한다.

최경호 개발자는 "혐오·비하 표현이나 공격성을 띠는 댓글을 잡아내는 모델도 개발하고 있다"며 "스포츠 커뮤니티에서는 적절한 싸움을 허용하는 식으로, 각자 서비스에 맞게 악플 기준을 달리하는 모델도 개발 중"이라고 밝혔다.