[AI 미디어 파도] '고영향 AI' 규제? '금지 AI' 없고 과태료 실효성 부족 딥페이크 표기 사업자에 강제, 위·변조 대응 등은 후속과제
[미디어오늘 윤수현, 금준경 기자]



▲2024년 11월 국회 과학기술정보방송통신위원회에서 인공지능 기본법이 통과됐다. ⓒ연합뉴스



인공지능(AI) 시대의 규범을 마련하는 AI기본법이 22일부로 한국에서 시행됐다.

AI기본법은 AI 산업진흥과 함께 A 사이다쿨접속방법 I 사업자에 의무를 부과하는 내용이 골자다. 산업 진흥 측면에선 3년 단위로 정부가 인공지능 기본계획을 수립하고, 인공지능 관련 전문기관 설립 근거와 연구개발 및 지원 방안을 담았다. 사업자 책무를 강제하는 측면에서 '고위험 AI'를 규정하고 AI 콘텐츠 표기를 의무화한다.

'고영향' AI만 규제해도 충분한가
손오공릴게임

AI로 인한 우려가 큰 상황에서 고영향 AI를 규제 대상으로 설정했다. 고영향 AI는 먹는 물, 의료기기, 채용 및 대출심사, 범죄수사, 교육, 교통 등 분야의 AI 가운데 사람의 생명·신체·기본권에 중대한 영향을 미칠 우려가 있는 AI 시스템을 말한다. 고영향 AI로 지정되면 이용자에게 이를 고지해야 하 바다이야기디시 고 안전성 관리 의무와 과태료 부과 책임 등의 규제를 받는다. 사람들에게 피해를 끼칠 수 있는 AI를 견제하겠다는 취지다.

기업들은 '고영향'의 기준이 모호해 과잉규제가 될 수 있다고 우려하지만 시민사회에선 오히려 규제 실효성이 떨어진다고 본다.
특히, 유럽연합(EU)과 달리 한국의 AI기본법은 사람들 바다신2릴게임 에게 막대한 피해를 끼칠 수 있어 운영 자체를 막는 '금지 AI' 규정이 없다. 이지은 참여연대 간사는 “EU에선 인권침해 가능성이 높은 AI는 금지 대상이지만, 한국에선 금지 대상이 규정되지 않았다”며 “고영향 AI의 기준도 광범위하고, 관련된 법규정을 위반했을 때 어떻게 책임을 물을지도 불분명하다”고 지적했다.
오병일 디지털정의네트워크 바다이야기온라인 대표 역시 “책무를 규정한 조항은 있지만, 책무가 무엇인지 구체적으로 설명하는 부분이 없다”며 “처벌 규정도 과태료 3000만 원밖에 안 된다. AI 기술 발전에 맞춰 현 상황에 맞는 법안 개정이 필요하다”고 밝혔다.



▲생성형 AI로 만든 인공지능 이미지.




사업자에 딥페이크 표기 의무



AI기본법이 시행되면 AI로 만든 생성물에는 이를 표기하는 의무가 부과된다. 특히 딥페이크는 이용자가 명확히 인식할 수 있도록 고지 또는 표시하도록 했다. 과학기술정보통신부의 가이드라인에 따르면 “이 그림(영상)은 AI로 생성되었습니다”와 같은 문구를 삽입하는 방식이다. 누가 보더라도 가상의 이미지인 경우는 예외로 둔다.

다만 콘텐츠 제작자가 아닌 사업자에 의무를 부여하고 위·변조시 대책이 부족하다는 지적이 있다. 정준화 국회입법조사처 입법조사관은 지난달 발표한 <인공지능 생성물 고지 및 표시 제도> 보고서를 통해 “'이용자'는 인공지능 기본법상 사업자에 해당하지 않기 때문에 투명성 확보 의무가 없다”며 “고지·표시 제도의 변조·삭제 등 훼손에 대한 대응 방안도 보완이 요구된다”고 지적했다.
미국 캘리포니아주의 AI투명성법은 '표기의 영구성 비가역성 확보'를 명시하고 있고 무료 탐지도구 제공 등의 지원 방안도 있다. 방송미디어통신위원회는 AI기본법과 별도로 'AI 서비스 이용자 보호법' 제정을 통해 콘텐츠 유통 과정의 책임성을 강화하고 이용자보호와 피해구제에 나서겠다는 입장이다.

대리인제, 실효성은?


AI기본법이 시행되면 해외 사업자도 대리인을 지정해야 한다. 국내 법이 해외 사업자에 효력을 갖기 어려운 상황에서 국내에 관련 업무를 전담하는 대리인을 두도록 해 규제를 적용하게 하는 방안이다.

대상은 △전년 글로벌 매출 1조 원 이상 △국내 AI서비스 매출 100억 원 이상 △국내 일평균 이용자 100만 명 이상 중 하나라도 해당하는 사업자다. 적용 대상은 챗GPT를 서비스하는 오픈AI와 제미나이를 서비스하는 구글 정도로 한정적이다.
2019년 개인정보 분야에서 우선 도입된 대리인제는 여러 한계가 지적됐다. 사실상 페이퍼컴퍼니와 같은 유명무실한 법인을 국내에 설립해 제대로 된 일 처리를 하지 않는 문제가 불거졌다. 1~2개 기업이 9개 외국계 기업의 대리인을 맡는 상황도 벌어졌다. 대리인은 사업자를 대리한다기보단 해외 본사와 정부 간 소통 창구에 그친다는 지적도 반복된다.