네이버 악플차단 AI는 안다…"단어 '쓰레기'는 OK, 욕 '쓰레기'는 NO"
최종수정 2020.11.20 09:06 기사입력 2020.11.20 09:06
[아시아경제 부애리 기자] 네이버가 댓글 서비스를 시작한 지 17년째. '공론의 장' 역할을 했던 댓글문화는 욕설과 폭력 등을 일으키는 사회적 문제로 변질됐다. 상황이 심각해지자 네이버는 연예ㆍ스포츠 댓글 서비스를 잠정 중단했다. 최근 네이버는 소통의 공간인 '댓글'이 다시 순기능을 할 수 있도록 인공지능(AI)을 도입해 악성 댓글(악플)과의 전쟁을 치르는 중이다.
하루 평균 3만건 '악플 청소'
네이버는 악플 문제 해결을 위해 지난해 11월 전체 뉴스 댓글 서비스에 AI 시스템 '클린봇'을 적용했다. 이를 개발한 이규호 네이버 이용자피드백플랫폼 리더는 20일 아시아경제와의 인터뷰에서 "클린봇은 악플 청소부"라고 설명했다. 클린봇은 뉴스 기사에 달린 욕설이나 모욕적인 표현 등을 탐지해낸 뒤 '숨김 처리'를 한다.
이 리더는 "하나의 악플이라도 누군가에게 상처가 되고 싸움이 되고 집단 간의 갈등을 일으킬 수 있다"면서 "악플은 커뮤니케이션 공간인 댓글의 기능을 흐린다. 클린봇을 통해 댓글이 원래 기능대로 잘 동작할 수 있도록 만들었다"고 설명했다. 네이버는 클린봇의 적용 범위도 점차 확대하고 있다. 처음 스포츠와 웹툰 영역에만 도입했지만 전체 뉴스 댓글로 확대했고, 최근에는 '네이버TV'와 음원플랫폼 '바이브'에서도 악플을 청소하는 중이다.
클린봇 도입 이후 악성댓글 신고 건수는 19% 가량 감소하는 효과를 거뒀다. 이 리더는 "이슈가 있는 시기에 따라 편차가 있지만 전체 작성되는 댓글의 15%~20%가 걸러진다"고 밝혔다. 네이버데이터랩에 따르면 11월 셋째주 기준 하루 평균 적게는 20만건, 많게는 30만건의 댓글이 작성됐다. 이를 토대로 계산해보면 클린봇이 하루 평균 3만건 이상의 악플을 잡아내고 있는 셈이다.
일각에서는 '표현의 자유'를 강조하는 목소리도 있다. 이에 대해 이 리더는 "표현의 자유와의 충돌은 항상 염려하고 있는 부분이고 섬세하게 조율하기 위해 노력하고 있다"면서 "사람마다 악플의 기준이 다를 수 있지만 클린봇 처리 기준은 대다수가 동의할 수 있는 수준"이라고 강조했다.
이규호(오른쪽)이용자피드백플랫폼 리더와 황태현 매니저.
'언어 성폭력' 잡아내는 AI도 출시
네이버는 1년 동안 클린봇 AI 기술을 꾸준히 고도화했다. 악플 형태와 문장 패턴 등 데이터를 꾸준히 학습시켰다. 지난 6월 선보인 '클린봇 2.0'은 문맥 전체를 파악해 악플을 판별하는 능력을 갖췄다. 예를 들어 '쓰레기'라는 단어는 예전에는 악플로 걸러내지 않았다. AI가 욕설 키워드만을 탐지하는 수준이었기 때문이다. 하지만 이제는 '이 쓰레기 같은 인간아'에서 쓰이는 것처럼 폭력적 의미가 담긴 악플은 클린봇이 탐지해 잡아낸다. 악플러들이 차단될 것을 우려해 띄어쓰기꼼수로 작성하는 표현도 얼마든지 잡아낸다. 클린봇의 정확도가 95% 수준에 달한다는 게 네이버의 평가다.
AI가 지속적으로 발전할 경우 닫혔던 연예ㆍ스포츠 뉴스 댓글 창이 다시 열릴 가능성도 있다. 이 리더는 "AI가 악플을 100% 잡아낼 수는 없다. 1개의 댓글이라도 당사자에게 치명타가 될 수 있는 상황 때문에 잠정 중단을 결정한 상태"라면서 "좋은 기술을 만들다 보면 언젠가 (재개를)고려할 수도 있을 것"이라고 밝혔다.
네이버는 성희롱이나 언어 성폭력을 잡아내는 '클린봇 레드(가칭)'도 내년 중 도입한다. 다양한 형태의 악플 중에서도 명백하게 성적 폭력이 될 수 있는 표현들을 정밀하게 잡아내겠다는 목적에서다. 이를 통해 네이버는 인터넷 댓글 창이 '소통의 마당'이라는 본연의 모습으로 회귀하기를 고대한다. 이 리더는 "비판과 비난은 다르다고 생각한다"면서 "건설적인 비판을 할 수 있고, 누군가를 응원할 수 있는 그런 공간을 만드는 것이 목표"라고 말했다.
부애리 기자 aeri345@asiae.co.kr
'* 문화(누림,누리리)' 카테고리의 다른 글
| 동물 사모으기(애니멀 호딩 hoarding)도 동물학대 (0) | 2021.04.13 |
|---|---|
| 오달수 복귀작 '이웃사촌'… 따뜻하지만 씁쓸한 그 시절 이야기 (0) | 2020.12.03 |
| BTS 때리다가 전세계 역풍.."중국, 한국 보고 배워라" (0) | 2020.10.22 |
| 충주시를 홍보하는 소셜 미디어: 사과하십쇼 => 사과 사십쇼 (0) | 2020.09.26 |
| 온몸 문신 도배 佛초등교사: 개인의 자유~? (0) | 2020.09.26 |