- 몸캠피싱 피해자 찾아내고 가짜뉴스 검증도

최근 사이버 범죄가 크게 늘어나는 추세다. 특히 인공지능(AI)이 발달하면서 동시에 딥페이크 관련 범죄가 높아지고 있다. 특정 인물의 얼굴, 목소리, 또는 행동을 정교하게 합성하거나 변경해 악용하는 범죄를 잡아내는 스타트업들이 주목받고 있다.

31일 스타트업 업계에 따르면 AI로 만들어진 딥페이크 이미지와 영상, 글을 잡아내는 솔루션을 제공하는 스타트업들의 활동이 활발해지고 있다. 딥페이크 기술은 주로 성범죄와 가짜뉴스 생성 등에 사용된다. 특히 성적인 이미지나 영상물과 합성하는 ‘몸캠피싱’이 주를 이룬다.

디지털 범죄 대응 전문 스타트업 ‘라바웨이브’는 증명사진 한 장으로 불법 유포된 이미지나 영상을 찾아내는 솔루션을 제공하고 있다. 특정 인물의 얼굴을 성적인 이미지나 영상물과 합성하는 ‘몸캠피싱’에 특화돼 있다. AI로 사진 속 얼굴을 분석해 피해자가 등장하는 것으로 의심되는 영상물과 이미지를 찾아내는 방식이다. 유포되는 영상물과 이미지는 자체 빅데이터 업데이트를 통해 확보된다.

라바웨이브가 자체 개발한 CLC 시스템은 데이터베이스에 등록된 불법 성인 사이트와 디지털 성범죄자의 SNS 계정 등 특정 온라인 영역의 변동을 자동으로 실시간 감시한다. 불법 성인 사이트와 성범죄자 SNS 계정 등에 신규 영상 업로드 현황이 감지되면 라바웨이브 전담 대응 부서의 전방위적 분석 작업이 실시된다.

가짜 뉴스도 사회적 문제로 대두되고 있다. 과학기술정보통신부에 따르면, 대국민 설문조사 결과 응답자의 49.1%는 딥페이크 가짜뉴스를 판별할 수 없는 것으로 나타났다. ‘카피킬러’는 AI가 생성한 문장을 탐지하는데 이곳 운영사인 ‘무하유’는 최근 한국콘텐츠진흥원과 가짜뉴스 근절 기술 개발에 나서고 있다. 기사를 유사도로 분석한다. 생성형 AI를 활용해 저작물의 복제·인용·표절을 검증한다.

트래픽 및 리소스 매니지먼트 솔루션 스타트업 ‘에스티씨랩’은 딥페이크에 활용될 가능성이 높은 개인정보 유출 문제 근절에 집중하고 있다. 매크로를 활용한 개인정보 유출과 신원 도용을 막는다는 계획이다. 매크로는 특정 작업을 자동으로 수행하도록 만들어진 프로그램이다. 공연 티켓, 대학생 수강신청 등에 사용됐으나, 최근 개인정보 탈취와 도용에 활용되고 있다.

올해 1월 1일부터 10월 25일까지 경찰청에 딥페이크 성범죄 피해를 접수한 건수는 총 964건이다. 사이버 범죄 발생 건수는 2019년 18만499건에서 2022년 23만4098건으로 상승했다. 이후에도 비슷한 수준을 유지하다가 2023년 24만1842건을 기록했다.

딥페이크 범죄 잡는 AI 스타트업 뜬다

-기사 원문 보기

ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.

Create a Secure Cyberspace for Everyone