동남아도 AI·딥페이크 활용 사기 확산… "범죄 조직, 텔레그램 악용"

유엔 마약범죄사무소와 필리핀 수사기관 합동 단속으로 붙잡힌 온라인 사기 조직 일당. 유엔마약범죄사무소 보
고서 

동남아시아에서 사이버 범죄가 인공지능(AI) 등 기술 발전과 맞물리면서 더욱 기승을 부리고 있다는 분석이 나왔다. 동남아에서도 모바일 메신저 텔레그램이 개인정보와 딥페이크(AI 기반 이미지·영상 합성) 제작 프로그램 등을 거래하는 범죄의 온상이 되는 것으로도 나타났다.

8일 로이터통신 등에 따르면 유엔 산하 마약범죄사무소(UNODC)는 전날 ‘국제 조직범죄와 사이버 사기, 지하 금융, 기술 혁신의 융합: 변화하는 위협 환경’ 보고서를 내고 지난해 동남아 범죄 조직이 저지른 사이버 사기로 인한 피해액이 최대 370억 달러(약 50조 원)라고 밝혔다. 동남아가 수십억 달러 규모 사기 산업의 주요 허브로 부상했으며, 동남아 조직범죄 환경은 역사상 그 어느 때보다 빠르게 변하고 있다는 게 요지다.

동남아에서 온라인 사기가 횡행하는 게 이례적인 일은 아니다. 그러나 최근 들어 이 지역 범죄 단체들이 악성 소프트웨어, 생성형 AI, 딥페이크 범죄 등 기술 발전을 악용하며 범행을 확대하고 있는 것으로 나타났다. 보고서는 “AI 생성 콘텐츠, 특히 딥페이크가 동남아 범죄 집단에서 사칭 범죄, 딥페이크 포르노, 실제 영상과 오디오를 변경한 사이버 사기 같은 악의적 형태로 오용되고 있다”고 지적했다.
 

사기 범행에 동원할 피해자를 모집하는 데 AI 생성 콘텐츠를 이용하는 방식이 대표적이다. 올해 초 리셴룽 싱가포르 전 총리가 “(테슬라 최고경영자) 일론 머스크가 설계한 혁신적 투자 플랫폼에 투자하라”고 촉구하는 영상이 온라인상에 퍼졌는데, 이 역시 딥페이크로 만든 가짜 이미지였다.

UNODC는 “지난해 아시아·태평양 지역에서 딥페이크 관련 범죄가 전년 대비 1,530% 증가했다는 연구 결과도 있다”고도 덧붙였다. 필리핀과 베트남의 경우 딥페이크 관련 사건이 각각 4,500%, 3,000% 늘어난 것으로 나타났다.

동남아 범죄 조직이 텔레그램을 광범위하게 이용하고 있다는 분석도 나왔다. 텔레그램을 통해 신용카드 정보, 비밀번호, 브라우저 이용 기록 등 해킹된 개인정보뿐 아니라 딥페이크 소프트웨어와 악성코드(멀웨어) 프로그램도 대규모 거래되고 있다는 게 UNODC의 분석이다.
 

존 보이치크 UNODC 동남아 지역 분석가는 “(텔레그램이) 이전에는 더 정교하고 수익성 있는 방법을 악용할 기술적 능력이 부족했던 조직의 범죄 진입 장벽을 낮췄다”고 말했다.