<사진=Shutterstock>

AI로 지인 목소리·영상

감쪽같아 더 속기 쉬워

기관 사칭 등 범죄 심화

내년 더욱 급증할 전망 

노인과 이민자 등을 대상으로 한 사칭 사기와 보이스피싱 등 범죄가 기승을 부리고 있는 가운데 최근 인공지능(AI) 기술 발전과 함께 AI 딥페이크(deepfake) 기술을 악용한 스캠 사기도 증가하고 있어 주의가 요구된다.

17일 KNX 뉴스에 따르면 최근 딥페이크 기술을 이용해 음성이나 영상을 변조, 마치 가족이나 친지, 지인처럼 위장한 뒤 돈을 요구하는 사기 사례들이 늘고 있다는 것이다. 이에 따르면 이들 사기범은 특히 노인 등을 상대로 딥페이크 기술을 이용해 자녀나 손주들의 목소리와 똑같이 들리도록 음성을 변조해 돈을 요구하는 수법을 쓰고 있다. 이들은 딥페이크 정보에 취약한 노인 등에게 선물카드를 사게 하거나 송금을 하도록 하는 수법도 사용하고 있다고 KNX는 전했다.

이와 관련 포브스는 전문가들을 인용해 앞으로 딥페이크와 음성복제 등 인공지능(AI)을 활용한 사기로 재정적 피해가 크게 늘어날 것으로 전망된다고 17일 전했다. 

보안 업체 ‘포인트 프리딕티브’의 사기 전략 방지 최고 책임자인 프랭크 맥케나는 올들어 딥페이크, 음성복제 사기 및 AI 활용 피싱 사기가 고개를 들어 내년에는 피해 사례들이 급증할 것으로 내다봤다.

이에 따르면 딜로이트 금융 서비스 센터의 분석결과 지난 2023년 123억 달러 규모였던 생성형 AI가 활용된 사기 피해액은 계속 증가해 2027년에는 400억 달러에 이를 전망이다. 약 연평균 32%의 성장률을 보이는 셈이다. 특히 딥페이크와 음성복제 기술이 큰 역할을 담당한다.

전문가들은 먼저 이를 통한 비즈니스 사기가 증가할 전망이라고 경고했다. 임원, 회사 관계자, 거래처 관계자 등의 얼굴과 목소리를 딥페이크로 생성해 송금이나 기밀정보 등을 요청하는 식이다. 예컨대 긴급 상황으로 인해 외부 공급업체에 지불해야 한다고 말하는 것이다.

또 이러한 딥페이크와 음성복제는 연애 빙자 사기인 ‘로맨스 스캠’에도 적용된다. 로맨스 스캠은 피해자에게 접근해 시간을 두고 친분 관계를 쌓거나 처음부터 실제 연인을 가장하는 등의 수법인데, 최근 한 피해자는 해외에 있는 군의관의 연인과 이야기하고 있다고 착각하게 만든 음성복제 AI챗봇 사기에 당하기도 했다. 

또 딥페이크는 이른바 ‘돼지 도살’ 수법에도 활용된다. 이 수법은 피해자들과 신뢰 관계를 구축한 후 가해자들이 통제 가능한 허위 암호화폐 지갑 또는 웹사이트에 자산을 입금하도록 유도하는 방식이다.

대부분 초기에 돈을 불려주고 점차 투자 규모를 높이게 한 후 가로채기 때문에 마치 돼지를 살찌게 한 뒤 도살해 많은 고기를 얻는 모양에 비유해 ‘돼지 도살’로 불리게 됐다. 돼지 도살 수법을 원하는 조직적 범죄자들이 수천명에게 동시에 메시지를 보낼 수 있는 AI 프로그램을 활용하고, 딥페이크와 음성복제 기술을 접목해 작전을 대규모로 확장한다는 설명이다.

뿐만 아니라 현재 경찰, 검찰, 법원, 수도국 등의 공공기관과, 유명 사기업 등을 사칭하는 사기가 매우 많은데, 가짜 비상 상황을 만들어 피해자에게 돈을 송금하게 만들거나 그럴듯한 이유로 금융 또는 개인 정보를 요구하는 식이다. 이러한 사기범들은 딥페이크와 음성복제를 활용하기 시작했으며 더욱 정교하고 그럴듯한 사기가 늘어날 전망이라고 맥케나는 분석했다. 

이에 더해 고위 임원을 표적으로 하는 딥페이크 협박 사기도 기승을 부릴 전망이다. 싱가포르에서는 최근 30개 정부 기관에 걸쳐 100명의 공무원들을 대상으로 한 딥페이크 이메일 협박 사기가 발생했다. 범인들은 암호화폐를 요구하며, 지불하지 않을 경우 그들의 명예를 실추시킬 딥페이크 영상을 유포하겠다고 협박했다. 딥페이크 소프트웨어의 접근성이 높아지면서, 이러한 협박은 전 세계 기업들의 고위 임원들을 표적으로 확산될 가능성이 크다는 분석이다. 

위와 같이 각종 사칭, 허위 투자 유도, 협박 등 딥페이크와 음성복제를 활용한 다양한 유형들의 사기 증가는 미국을 포함한 전 세계적인 추세가 될 것으로 전망됐다. 맥케나는 예상치 못한 문자, 이메일, 전화를 받을 때 항상 주의해야 하며 특히 신뢰할 수 있는 조직을 사칭하며 긴급함을 유도하는 경우 매우 경계해야 한다고 조언했다. 이어 은행에서 민감한 정보를 요청하는 전화, 가족이 납치되었다는 급박한 전화 등 역시 경계 대상이라고 덧붙였다.

<한형석 기자>ⓒ 한국일보