생성형AI가 고도화되면서 덩달아 AI를 활용한 범죄 사건도 크게 증가하고 있다. 생성형AI와 딥페이크가 결합된 '다크AI' 범죄가 일상화되고 있다. 특히 일반인뿐 아니라 기업인을 타깃으로 한 대규모 범죄 사건이 이어지고 있다.
월스트리트저널은 지난 18일 이젠텍 주식 로 인한 CEO 사칭 사기 증가> 보도에서 생성형AI로 기업인 영상을 만들어 다른 기업에 사기 행각을 벌이는 범죄가 늘어나고 있다고 밝혔다. 실제 영국 다국적기업 아럽(Arup) 홍콩지사 직원은 지난해 회사 임원을 사칭한 딥페이크 영상에 속아 범죄자들에게 2500만 달러(한화 약 349억6750만 원)를 송금했다. 범죄자가 회사 고위 임원을 사칭한 딥페이크주식으로성공하기 영상을 만들어 화상회의를 개최한 뒤 직원에게 송금을 요구한 것이다. 최근 이탈리아 자동차 회사 페라리, 광고회사 WPP를 대상으로 한 딥페이크 범죄 시도가 있었다. 월스트리트저널은 “딥페이크 범죄가 새로운 것은 아니지만, 생성형AI가 대중화되면서 범죄가 더 널리 퍼지고 있다”며 “지난해 미국에선 딥페이크 범죄 시도가 10만5000건 이상유나이티드제약 주식 발생했는데, 이는 5분마다 범죄 시도가 1건 발생한 셈”이라고 했다. 월스트리트저널은 재무 관리자, 임원 비서, 엔지니어 등 회사 내부 정보를 가진 직원이 범죄의 주요 타깃이라면서 “범죄자들은 CEO나 고위 관계자를 사칭해 화상회의를 진행하고 자금 이체 등을 요구한다. AI로 제작된 가짜 영상은 (화상회의에서) 실시간으로 응답하며 자연스KODEX보험 주식 러운 악센트까지 모방한다”고 했다. 사이버 보안회사 옵티브(Optiv)의 제임스 터갈 부사장은 월스트리트저널에 AI의 기업인 사칭 범죄 피해액은 올해 1분기에만 2억 달러(한화 약 2797억 원)를 넘어섰다고 밝혔으며, 사이버 보안회사 가디오(Guardio)의 나티 탈 책임자는 월스트리트저널에 “많은 기업과 조직이 평판 훼손을 피하기 위해투자클럽 범죄 사실을 공개적으로 밝히지 않을 것”이라고 했다. 미국 정부도 기업에 경고령을 내렸다. 미국 재무부 산하 금융범죄단속국은 지난해 말 “기업 임원이나 직원을 사칭한 뒤 돈을 요구하는 사이버 범죄가 증거하고 있다”며 업계에 경고했고, 미국은행협회도 딥페이크 범죄 관련 모니터링을 실시했다. 오픈AI의 샘 올트먼 대표이사는 지난달 연방준비제도가 개최한 행사에서 “AI로 인해 세계가 '사기의 위기' 문턱에 와있다. AI 기술을 활용한 범죄가 현실적 위협이 되고 있다”고 했다. 세르게이 로츠킨 카스퍼스키 센터장은 최근 행사에서 “챗GPT가 출시된 후 사이버 범죄자들이 생성형AI를 활용해 범죄 역량을 높이는 현상이 뚜렷해지고 있다”며 '다크 AI'가 등장했다고 경고했다.
조회 : 1
