그록과 이미지들. 게티이미지-AFP연합뉴스


지난 10일 ‘7만원으로 2분짜리 영화를 완성했다’는 영상 인공지능(AI) 시댄스 2.0의 출시 소식이 화제를 모았습니다. 이미지·영상 AI가 얼마나 사용자 의도대로, 정밀한 수준의 결과물을 만들어내는지에 관심이 쏠렸는데요. 같은 날 이미지 AI를 활용하는 또다른 의도를 걱정하는 목소리도 나왔습니다. 바로 AI가 성착취물을 만들어내는 데 악용돼선 안 된다는 전세계 국제기구들의 성명입니다.
아동 성착취물 확산에 대응해 온 ‘국제인터넷핫라인협회(INHOPE)’와 세이프온라인, 인터넷 감시 알라딘게임 재단(IWF) 등 국제기구들은 AI가 학대·누드(비동의 신체 합성) 이미지를 생성하도록 하는 기술을 전면 금지해야 한다는 내용의 성명을 발표했습니다. 한국에선 방송미디어통신심의위원회(방미심위)가 성명에 참여했습니다.
단체들은 “비동의 신체 합성(nudify) 도구는 동의 없이 타인의 나체 이미지를 생성하고, 아동에 대한 불법 이미지를 생성 바다이야기게임사이트 하는 일도 잦아지고 있다”며 “이를 제작하거나 배포하는 기업, 개발자, 개인은 반드시 책임을 지고 법적·형사적 조치를 받아야 한다”고 했습니다.
이미지 AI가 단순한 도구를 넘어 “새로운 착취의 경로가 됐다”는 지적이 나옵니다. 이들은 “AI 도구는 가해자들이 피해자의 사진을 입수할 필요조차 없게 만든다”며 “성착취 이미지를 인위적으로, 야마토게임예시 소름 끼칠 정도로 효율적으로, 대규모로 만들어낼 수 있다”고 지적했습니다. “일부 청소년을 비롯한 가해자들은 AI로 생성한 성착취 이미지를 수익화 해 새로운 ‘착취 경제’를 구현했다”고도 했습니다.
누구나 쉽게 이미지 AI를 사용할 수 있게 된 세상에서 여성과 아동을 위험에 노출하지 않으려면 어떻게 해야 할까요. 단체들은 “각국 정부와 입 오션파라다이스예시 법자들이 아무리 늦어도 2년 안에 비동의 신체 합성 도구를 금지하고 누구도 접근할 수 없도록 규제해야 한다”고 주장합니다.
구체적인 방법으로는 정부가 비동의 신체 합성 이미지 생성·유통하는 이들과 이익을 얻는 기업·개인에게 형사상 책임을 물어야 한다고 했습니다. 또한 정부가 앱스토어 등에 비동의 신체 합성 AI 기술을 제지하도록 의무를 부 야마토연타 여하는 방법을 제시했습니다.
단체들은 AI가 생성한 성적 이미지가 더 퍼지기 전에 ‘지금 당장’ 막아야 한다고 강조합니다. 착취가 벌어지기 이전에 ‘예방’이 중요하다는 것이죠. 이들은 기술 기업과 개인들에게도 “이미지 AI를 설계 단계부터 안전하게 만들고, 효과적인 보호 조치를 도입해야 한다”며 “비동의 신체 합성 도구가 회복 불가능한 피해를 주며, 성별에 기반한 폭력을 확산시키는 위험도 분명히 인식해야 한다”고 촉구했습니다.
성착취물을 만드는 이미지 AI나 생성물을 발견했을 땐 무엇을 할 수 있을까요. 단체들은 “신고하고, 비난하고, 이들이 활개 치는 공간을 폐쇄시키라”고 말합니다. 방송미디어통신위원회는 지난달 그록을 통해 성착취물이 확산하고 있다고 알려지자 그록을 운영하는 X 측에 이용자 보호 계획을 제출하라고 요구했습니다. 그러나 이미지 AI가 범람하고 착취 구조로 빠지는 속도를 보호 대책이 따라가기에는 공백이 많다는 우려가 있습니다.
원민경 성평등가족부 장관은 비동의 신체 합성 금지 촉구 성명이 나오자 “디지털 성범죄에 대한 국제사회의 선언을 적극 환영한다”며 “새로운 디지털 성범죄의 양상에 대응하기 위해 관계부처, 국제사회와의 협력을 적극 강화하겠다”고 했습니다.


☞ 원민경 성평등부 장관, “성인 여성 성착취 AI 이미지도 규제 필요”
?????https://www.khan.co.kr/article/202602082039005#ENT




☞ [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’
?????https://www.khan.co.kr/article/202601100600021#ENT




☞ [남지원의 다른 시선들]AI 시대의 성범죄
?????https://www.khan.co.kr/article/202601071957005#ENT


김송이 기자 songyi@kyunghyang.com