피해영상 웹사이트 유포사례 신속 탐지 및 삭제 지원
웹하드에 이어 온라인 대응 범위 확대, 탐지효율 개선
국내 연구진이 인공지능(AI) 기술을 활용해 따뜻하고 건강한 미디어 소비환경을 제공하는 데 앞장서고 있다. 불법 촬영으로 인한 디지털 성범죄 및 2차 피해 확산을 신속하고 효율적으로 억제할 전망이다.
한국전자통신연구원(ETRI)은 AI 기술을 활용해 2019년 웹하드 대상 불법 촬영물 삭제 지원 시스템을 개발해 한국여성인권진흥원 ‘디지털 성범죄 피해자 지원센터' 업무에 적용해온 데 이어 검색대상을 인터넷 사이트까지 확대하는 데 성공, 이달 내 지원업무에 시험 적용한다.
ETRI는 본 기술 개발로 AI가 인터넷 사이트를 자동으로 검색해 웹 페이지 음란성 여부를 판단할 수 있다고 말했다. 탐지효율이 혁신적으로 개선됨에 따라 피해자 지원에 빠르게 대응할 수 있을 전망이다.
본 개발의 핵심은 영상물의 유해성을 분석·검출하는 AI 기술이다. AI가 등록된 키워드로 웹페이지들을 검색하고 웹페이지 내 게시물(텍스트, 이미지 등)을 분석해 유해성을 검출한다.
ETRI 연구진의 AI 엔진은 프레임당 약 100만 회의 세부판단을 근거로 영상 간 유사도 비교를 수행해 정교하다.
연구진은 콘텐츠 유해성을 판단하는 성능이 99.4% 이상의 정확도와 0.01초 이하의 검출속도를 달성해 상당히 높은 성능 수준이라고 밝혔다.
또 이번 성과가 AI를 적용한 유해 웹사이트 자동수집 시스템 개발에 AI 엔진을 내장시켜 기술을 고도화한 결과라고 설명했다.
ETRI가 개발한 기술에는 ▲AI 기술을 활용해 등록된 키워드로 웹페이지를 검색하는 기능 ▲유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별·수집하는 기능 등을 갖추고 있다.
연구진은 지난 6월부터 두 달간 진행된 시험기간 동안, 피해영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용, 총 1만 8945건의 웹사이트를 자동 수집했으며 이 중 유해 사이트로 판별된 2631개 웹사이트를 걸러내는 데 성공했다.
ETRI 이남경 미디어지능화연구실장은 “이번 인공지능 기술은 디지털 성범죄 피해자 지원업무에 유용하게 활용될 것으로 보이며 앞으로도 불법 촬영물의 유포·확산을 최소화할 수 있도록 지원하겠다”고 말했다.
ETRI 연구진은 미디어 지능화 기술을 통해 디지털 역기능 대응 기술을 고도화하는 등 선제적 디지털 성범죄 사전탐지·확산방지를 위해 노력할 계획이라고 전했다.
한편 연구진은 2019년, 웹하드를 대상으로 한 불법 촬영물 삭제 지원 시스템을 개발했다. 연구진은 그동안의 연구개발 경험과 축적된 기술력을 바탕으로 본 성과를 낼 수 있었다.
ETRI는 이밖에도 불법 촬영물 유통을 막기 위해 ‘n번방 방지법’후속 조치인 내용 기반 영상검출 기술 개발에도 참여하는 등 건강하고 따뜻한 미디어 소비환경을 조성하는 데 기여하고 있다.
본 기술은 과학기술정보통신부 ‘인공지능 기반 유해미디어(음란성) 분석·검출 시스템 개발’ 과제로 개발됐다. ㈜판도라티비, (주)엘컴텍, ㈜SK텔레콤, 광운대학교가 공동연구기관으로 참여했다.