- 사이버 범죄 발생↑ 검거율↓…AI 활용 몸캠피싱·가짜뉴스 몸살

- 스타트업, 빅데이터·AI 활용 솔루션으로 딥페이크 범죄 근절나서

국내 사이버 범죄 발생 건수는 2019년 18만499건에서 2022년 23만4098건으로 크게 상승했으며, 이후에도 비슷한 수준을 유지하다가 2023년 24만1842건을 기록했다. 반면 발생 건수 대비 검거율은 2019년 73.4%에서 꾸준히 줄어 2023년 57.1%에 머물렀다.
 

기술 발달로 사이버 범죄가 증가하는 가운데, 딥페이크 근절에 나선 스타트업들의 활동이 주목받고 있다.

29일 경찰청에 따르면, 사이버 범죄는 급증하는 반면 발생 대비 검거율은 감소하고 있다. 사이버 범죄 발생 건수는 2019년 18만499건에서 2022년 23만4098건으로 크게 상승했으며, 이후에도 비슷한 수준을 유지하다가 2023년 24만1842건을 기록했다. 반면 발생 건수 대비 검거율은 2019년 73.4%에서 꾸준히 줄어 2023년 57.1%에 머물렀다.

특히, 인공지능(AI) 등 기술이 발달하면서 딥페이크 관련 범죄는 날로 급증하고 있다. 올해 1월 1일부터 10월 25일까지 경찰청에 딥페이크 성범죄 피해를 접수한 건수는 총 964건이었다. 성범죄 특징상 경찰에 알리지 않는 점은 감안하면 그 피해는 더욱 클 것으로 예상된다. 딥페이크는 AI 기술을 이용해 만든 조작된 이미지나 영상으로, 특정 인물의 얼굴, 목소리, 또는 행동을 정교하게 합성하거나 변경하는 기술을 말한다. 딥페이크는 성범죄, 가짜 뉴스 생성 등에 자주 사용된다.

딥페이크를 활용한 성범죄로는 특정 인물의 얼굴을 성적인 이미지나 영상물과 합성하는 ‘몸캠피싱’이 있다. 대처에 미숙한 미성년자와 50대 이상 고령층을 대상으로 한 딥페이크 성범죄는 큰 사회적 문제로 거론된다. 몸캠피싱은 개인의 영상이나 사진을 유포하겠다며 금전을 요구하거나 추가 영상을 찍도록 강요하는 형태로 이뤄진다. 기존에는 직접 촬영한 영상으로 범죄를 저질렀으나, 최근에는 딥페이크를 이용한 합성물로 협박을 일삼는 사례가 늘어나고 있다.

딥페이크를 활용한 가짜 뉴스도 큰 사회적 문제다. 과학기술정보통신부에 따르면, 대국민 설문조사 결과 응답자의 49.1%는 딥페이크 가짜뉴스를 판별할 수 없는 것으로 나타났다. 84.9%는 딥페이크를 활용한 가짜뉴스가 일반적인 가짜뉴스보다 부정적 영향이 더 심각하다고 생각했으며, 딥페이크 가짜뉴스를 접해본 응답자는 39%에 달했다. 딥페이크 가짜뉴스의 악영향으로 우려되는 점으로는 인격적 피해가 48.2%로 가장 높았다.

딥페이크를 활용한 범죄가 증가하면서 이에 대응하는 솔루션 제공 스타트업들의 활동도 활발해지고 있다.

디지털 범죄 대응 전문 스타트업 ‘라바웨이브’는 증명사진 한 장으로 불법 유포된 몸캠피싱 이미지나 영상을 찾아내는 솔루션을 제공한다. 대부분의 솔루션이 원본 영상물과 대조해 불법 유포 영상물을 찾아내는 것과 달리, AI로 사진 속 얼굴을 분석해 피해자가 등장하는 것으로 의심되는 영상물과 이미지를 찾아내는 방식이다. 유포되는 영상물과 이미지는 자체 빅데이터 업데이트를 통해 확보되며, 전 세계 성인사이트 등을 대상으로 불법 유포물을 찾아낸다.

AI가 생성한 문장을 탐지하는 ‘카피킬러’ 운영사 ‘무하유’는 최근 한국콘텐츠진흥원과 가짜뉴스 근절 기술 개발에 나섰다. 생성형 AI를 이용해 작성된 기사를 유사도로 분석해, 저작물의 복제·인용·표절을 검증한다. 사실 확인이 어려운 AI 작성 기사가 확산될 경우, 부정확한 정보를 포함한 뉴스가 광범위하게 퍼질 우려가 있기 때문이다.

트래픽 및 리소스 매니지먼트 솔루션 스타트업 ‘에스티씨랩’은 딥페이크에 활용될 수 있는 개인정보 유출 문제 근절에 나섰다. 딥페이크, 보이스피싱 등 각종 범죄에 악용될 수 있는 매크로를 활용한 개인정보 유출 및 신원 도용을 막는다는 계획이다. 매크로는 특정 작업을 자동으로 수행하도록 만들어진 프로그램이다. 공연 티켓 구매, 대학생 수강신청 선점 등에 사용됐으나, 최근에는 개인정보 탈취 및 도용에도 활용되고 있다.

라바웨이브 관계자는 “딥페이크 범죄 중에서도 특히 AI를 활용한 몸캠피싱이 날이 갈수록 악랄해지고 있다. 영상을 찍지 않아도 SNS에 등록된 사진을 딥페이크로 합성해 유포하겠다고 협박하는 사례가 많다”면서 “갈수록 교묘해지는 수법만큼 기술로 범죄를 막는데 최선을 다할 것”이라고 말했다.

늘어나는 사이버 범죄…스타트업, 딥페이크 근절 선봉장으로

-기사 원문 보기

ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.

Create a Secure Cyberspace for Everyone