네이버, 인명사고 기사 악플 감지 강화… 2차 피해 예방더팩트 기사제공: 2025-02-28 13:48:02

네이버가 '클린봇 옵저버'에 대형 참사 등 인명사고 기사 탐지 기능을 추가했다. /더팩트 DB

[더팩트ㅣ조소현 기자] 네이버가 악성 댓글 활동이 증가하는 기사를 언론사에 알리는 '클린봇 옵저버' 성능을 강화했다. 기존에도 자살 보도 등에서 악성 댓글 탐지 기능이 작동했으나, 이번 개선으로 대형 참사 등 인명사고 기사에 대한 탐지가 더욱 정교해졌다. 대형 사고 발생 시 악성 댓글이 급증하고, 피해자와 유족에 대한 2차 가해 문제가 심각해지고 있다는 판단에 따른 조치다.

네이버는 전날 클린봇 옵저버에 대형 참사 등 인명사고 기사 탐지 기능을 추가했다고 28일 밝혔다. 클린봇 옵저버는 기존에 자살 보도 등에서 악플을 감지하고 댓글·추천 스티커 기능을 차단해 왔으나, 이번 개선으로 대형 참사 등 인명사고 보도에서도 악플 탐지와 알림 기능이 강화됐다.

클린봇 옵저버는 악성 댓글 작성 시도 비율을 분석해 감지 대상 기사를 자동으로 선별하고, 이를 언론사에 알리는 서비스다. 지난 2023년 7월부터 베타 서비스로 도입됐으며, 이를 통해 언론사들은 댓글 제공 중단이 필요한 기사를 보다 신속하게 파악하고 즉각 대응할 수 있게 됐다.

네이버 뉴스는 지난 2018년 10월부터 각 언론사가 기사 댓글 제공 방식을 직접 선택할 수 있는 '댓글 언론사별 선택제'를 운영해왔다. 지난 2021년 8월에는 개별 기사 단위로도 댓글 제공을 중단할 수 있는 기능을 추가해, 보다 자율적인 클린 인터넷 환경 조성을 지원하고 있다. 현재 언론사는 기사별로 댓글 제공 여부를 직접 설정할 수 있으며, 댓글 정렬 방식과 기본 정렬 값의 섹션별 설정도 가능하다.

클린봇 옵저버는 자살 보도를 탐지해 댓글과 추천 스티커 기능을 차단해왔으나, 이번 고도화 작업을 통해 대형 참사를 포함한 인명사고 보도에서도 악성 댓글 감지 및 알림 기능이 강화됐다. /네이버

네이버가 탐지 기능을 강화한 이유는 무안국제공항 제주항공 여객기 참사를 비롯해 최근 급증하는 인명사고 기사로 인한 2차 피해를 방지하고, 이용자 만족도를 높이기 위해서다. 여객기 참사 보도에서는 약 30개 언론사가 댓글 제공 중단 기능을 활용했으나, 추가 대응이 필요하다는 판단에 따라 클린봇 옵저버에 인명사고 탐지 기술을 적용하기로 했다.

네이버는 각 언론사의 의견을 반영해 탐지 기능을 고도화했다. 네이버는 전날 언론 공지를 통해 "클린봇 옵저버의 인명사고 기사 탐지가 추가되는 등 성능이 강화됐다"며 "옵저버는 지난 2023년 7월부터 악성 댓글 시도 횟수·비율을 계산해 감지 대상 기사를 선별한 뒤, SCS 댓글 관리 메뉴와 메일링 알림을 통해 해당 기사 목록을 제공하고 있다. 이번 작업을 통해 기존에 제공했던 기사와 더불어 인명사고로 분류된 기사가 추가로 탐지될 수 있도록 개선했다"고 안내했다.

이어 "실질적인 사건·사고 당사자의 피해가 발생할 수 있는 기사에 대한 댓글을 더 쉽고 편리하게 관리하는 데 도움이 되길 바란다"며 "댓글을 통한 제2의 피해를 방지하고 이용자의 만족도를 높이는 데 기여할 수 있기를 바란다"고 덧붙였다.

이번 개선으로 인명사고로 분류된 기사가 더 정밀하게 탐지될 것으로 기대되며, 언론사의 선제적 대응이 가능해질 전망이다. 네이버 관계자는 "앞으로도 악플 근절을 위해 기술적·정책적 노력을 지속해 나가겠다"고 밝혔다.

네이버는 지난 2019년 업계 최초로 인공지능(AI) 기반 악성 댓글 탐지 시스템 'AI 클린봇'을 도입한 이후, 지속적으로 성능을 개선하며 악플 근절에 힘쓰고 있다. AI 클린봇은 문맥을 분석해 욕설, 저속한 표현뿐만 아니라 선정적·폭력적·차별적·비하적 표현도 걸러낸다. 또 아동·청소년 성범죄 및 성착취물 관련 성적 표현, 성범죄를 옹호하거나 조장하는 표현, 혐오·비하·차별적 표현 등에 대한 탐지를 강화했다.

sohyun@tf.co.kr