인공지능(AI) 딥러닝 기술이 한번 클릭으로 피해 영상물 즉시 검출, 삭제, 재유포 차단
[보안뉴스 박미영 기자] 서울시가 디지털성범죄 예방과 피해자 지원을 위해 운영 중인 ‘서울 디지털성범죄 안심지원센터’(이하 센터) 개관 1년을 맞아 전국 최초로 인공지능(AI) 기술을 도입해 24시간 디지털성범죄 자동 추적·감시에 나선다고 밝혔다.
‘서울 디지털성범죄 안심지원센터’는 오세훈 시장의 시정 마스터플랜인 ‘서울비전 2030’의 하나로, 작년 3월 29일 개관했다. 제2·제3의 n번방 피해를 막는다는 목표로 영상물 삭제부터 법률 지원, 심리‧치유까지 디지털성범죄 피해자를 원스톱 통합 지원한다.
인공지능(AI) 기술이 24시간 실시간 모니터링을 통해 피해자와 관련된 각종 사회관계망(SNS) 상의 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는다.
기존에는 피해자의 얼굴이나 특이점을 육안으로 판독해서 수작업으로 찾아내는 방식이라면, 앞으로는 인공지능(AI) 딥러닝 기술이 오디오·비디오·텍스트 정보를 종합적으로 분석해서 한 번 클릭만으로 피해자와 관련된 모든 피해 영상물을 즉시 찾아낸다.
사회관계망(SNS) 특성상 전파·공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 영상이 올라오자마자 신속하게 삭제하는 것이 무엇보다 중요하다는 점에 착안한 것이다.
지난해 7월 서울기술연구원에서 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다. 키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 개선되고, 정확도도 200% 이상 향상된다. 인공지능(AI)의 학습 데이터가 축적될수록 정확도와 속도는 향상될 것으로 기대된다.
인공지능(AI)이 영상물을 찾아내기 때문에 24시간 모니터링이 가능하고, 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스도 줄일 수 있다.
서울시는 인공지능(AI) 기술 도입과 함께 올해는 아동‧청소년 피해 예방에 주력할 계획이다. 최근 아동‧청소년을 대상으로 한 디지털성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고없이 온라인상에서 유포되는 피해 영상물이 많은 데 따른 것이다.
본인이 삭제를 요청해야 삭제 지원이 가능한 성인과 달리, 아동‧청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, 인공지능(AI) 추적·감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.
아동·청소년에 대한 디지털성범죄 예방을 위해서 친숙한 메타버스 공간에서 이뤄지는 교육 콘텐츠를 정보통신(IT) 기업과 협업해 개발하고, 청소년 스스로 디지털 환경을 안전하게 만드는 서포터즈 활동도 추진한다. 가해 청소년에 대한 전문가 상담을 통해 재발 방지에도 나선다.
‘서울 디지털성범죄 안심지원센터’는 긴급상담부터 수사·법률 지원, 삭제 지원, 심리치료·의료 지원에 이르는 원스톱 지원을 통해 지난 1년간 402명의 피해자를 지원했다. 총 지원 건수는 7,682건에 이른다. 시가 지원한 피해자의 연령대는 10~20대(약 57%)가 가장 높은 비율을 차지했으며, 이 중 10대 비율은 16.6%였다. 피해유형별로는 유포 불안(23.1%), 불법 촬영(20.1%), 유포·재유포(14.5%) 순이었다.
피해 영상물은 총 3,003건을 삭제했으며, 이 중 절반이 넘는 1,608건(54%)이 아동·청소년 성착취물이었다. 경찰과의 협력을 통해 924건의 수사를 지원했으며, 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 574건의 법률‧소송, 507건의 심리치료도 지원했다.
이와 관련해 오세훈 시장은 지난 29일 ‘서울 디지털성범죄 안심지원센터’(동작구 서울여성가족재단 내)에서 개관 1주년 기념식을 갖고, 갈수록 진화하는 디지털성범죄로부터 시민들을 보호하기 위한 지원을 강화해 나가겠다고 밝혔다. 이 자리에는 범죄심리학자 이수정 교수와 경찰, 디지털성범죄 관련 전문가, 디지털성범죄 안심 서포터즈 등 200여명이 참석했다.
오세훈 시장은 기념식 직후 이수정 교수 등 관련 전문가와 학부모, 안심서포터즈 대표 등과 간담회를 가졌다. 최근 증가하고 있는 아동‧청소년 디지털 성범죄 피해 실태 및 향후 센터의 방향성 등에 대해 현장의 생생한 목소리를 듣고, 피해 예방과 피해자 지원을 위한 개선 방안을 모색했다.
간담회에 앞서 열린 기념식에서는 지난 1년간 피해자 지원을 위해 많은 노력을 기울여 온 변호사, 경찰에 대한 서울시장 유공자 표창도 이뤄졌다. 수사·법률 피해 지원에 앞장서 온 한국여성변호사회 인권이사 김현아, 서혜진 변호사뿐 아니라 센터와 협력을 통해 가해자를 검거하고 피해자 연계를 지원한 김문영, 조찬아, 신현재, 손소영 경찰관이 유공자 표창을 받았다.
조찬아 수사관은 피해자만 191명인 공공장소 불법 촬영 사건의 가해자를 검거해 불법 촬영물의 재유포를 예방하고, 피해자를 적극적으로 센터에 연계해 피해 지원을 받을 수 있도록 한 공로를 인정받아 서울시장 표창을 수여했다.
n번방 사건 이후로 사람들의 사이버 성범죄에 대한 관심이 많아지고 있는 추세이다. 그렇기에 이러한 범죄들이 재발하면 안되기 때문에 그에 대한 대비책에 대해 관심을 가지고 있었는데 인공지능을 이용해 디지털 성 범죄물을 탐지하여 지우는 방식을 사용한다는 것이 인공지능이 실생활에 사용되는 좋은 예라고 생각을 하였다. 하지만 인공지능이 범죄에 이용이 되기도 하는데 바로 딥페이크와 ai그림이다. 딥페이크는 사람들이 지인의 얼굴이나 유명인들을 합성을 시켜 범죄에 이용하기도 한다. 또 ai그림은 지금까지 그려온 그림들을 학습시켜 비슷한 화풍의 그림을 단시간 내에 그려내어 인간이 그리는 것 보다 더 빨리 그려 높은 효율의 그림을 그려내어 기존작가의 작품을 소비자들이 원하지않게 되기도 한다. 이러한 인공지능의 좋은 점도 존재하지만 악용할 수도 있기 때문에 인공지능을 만들 때 악용 되지않도록 막는 방법에 대해서 생각해봐야한다고 생각한 다