‘다크AI’의 등장…딥페이크 사기에 기업도 속수무책

최고관리자쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물 작성
25.08.21 02:22

▲ 사진=Getty Images Bank.

생성형AI와 딥페이크 결합된 ‘다크AI’… 영국 기업 350억 피해
페라리·광고회사 대상으로 한 범죄 시도도 발생
미국 금융범죄단속국, 기업에 딥페이크 범죄 주의령

생성형AI가 고도화되면서 덩달아 AI를 활용한 범죄 사건도 크게 증가하고 있다. 생성형AI와 딥페이크가 결합된 ‘다크AI’ 범죄가 일상화되고 있다. 특히 일반인뿐 아니라 기업인을 타깃으로 한 대규모 범죄 사건이 이어지고 있다.

월스트리트저널은 지난 18일 보도에서 생성형AI로 기업인 영상을 만들어 다른 기업에 사기 행각을 벌이는 범죄가 늘어나고 있다고 밝혔다. 실제 영국 다국적기업 아럽(Arup) 홍콩지사 직원은 지난해 회사 임원을 사칭한 딥페이크 영상에 속아 범죄자들에게 2500만 달러(한화 약 349억6750만 원)를 송금했다. 범죄자가 회사 고위 임원을 사칭한 딥페이크 영상을 만들어 화상회의를 개최한 뒤 직원에게 송금을 요구한 것이다. 최근 이탈리아 자동차 회사 페라리, 광고회사 WPP를 대상으로 한 딥페이크 범죄 시도가 있었다.

월스트리트저널은 “딥페이크 범죄가 새로운 것은 아니지만, 생성형AI가 대중화되면서 범죄가 더 널리 퍼지고 있다”며 “지난해 미국에선 딥페이크 범죄 시도가 10만5000건 이상 발생했는데, 이는 5분마다 범죄 시도가 1건 발생한 셈”이라고 했다.

월스트리트저널은 재무 관리자, 임원 비서, 엔지니어 등 회사 내부 정보를 가진 직원이 범죄의 주요 타깃이라면서 “범죄자들은 다른 회사 고위 관계자를 사칭해 화상회의를 진행하고 자금 이체 등을 요구한다. AI로 제작된 가짜 영상은 (화상회의에서) 실시간으로 응답하며 자연스러운 악센트까지 모방한다”고 했다.

사이버 보안회사 옵티브(Optiv)의 제임스 터갈 부사장은 월스트리트저널에 AI의 기업인 사칭 범죄 피해액은 올해 1분기에만 2억 달러(한화 약 2797억 원)를 넘어섰다고 밝혔으며, 사이버 보안회사 가디오(Guardio)의 나티 탈 책임자는 월스트리트저널에 “많은 기업과 조직이 평판 훼손을 피하기 위해 범죄 사실을 공개적으로 밝히지 않을 것”이라고 했다.
로>