IT



네이버, 음란물 실시간 필터링 '엑스아이 2.0' 적용…"정확도 99.5%"

 

[파이낸셜데일리 이정수 기자]  네이버는 연중 24시간 음란 이미지가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아주는 '엑스아이(X-eye) 2.0'을 다음달부터 적용한다고 29일 밝혔다.

지난 2017년 처음 선보인 엑스아이'는 네이버에 축적된 방대한 400여만장의 이미지를 형태별로 분류해 인공지능(AI) 학습을 거쳐 탄생했다.

기존에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출된다는 단점이 있었지만, 음란물 필터링 AI 시스템 엑스아이 도입 이후 98.1%의 높은 적중률로 유해한 사진, 동영상을 실시간으로 걸러냈다.

새롭게 선보이는 엑스아이 2.0은 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구결과들이 활용되어 더욱 고도화됐다. 

 

네이버는 이를 통해 기존 정상·음란으로만 구분하던 엑스아이 1.0에서 정상·음란·성인·선정 4가지 등급으로 커버리지를 확대하면서도 더욱 높은 판단 정확도인 99.5%를 자랑한다고 설명했다. 또 기존 음란·성인성 이미지뿐 아니라 선정적 표현에 대한 판단 정확도가 뛰어나 다양한 서비스에서 활용이 가능하다고 알렸다.

유봉석 네이버 서비스운영총괄은 "건전한 인터넷 이용 환경 조성을 위해 네이버는 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다"며 "추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정이다"고 말했다.

아울러 정석근 네이버 클로바 CIC 대표는 "네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회 문제 해결에 성공적으로 기여한 중요한 사례다"며 "앞으로도 자체 개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다"고 언급했다.

한편 네이버는 작년 발생한 N번방 사건 등 아동·청소년 관련 성범죄, 성착취물 관련 성적 표현에 대한 관리를 강화하기 위해 지난 1월 29일 업그레이드된 'AI 클린봇 2.5'를 적용하는 등 건전하고 건강한 그린인터넷 구현 및 문화 형성을 위해 정책과 기술적인 노력을 지속하고 있다.

 

 





배너
배너