오픈AI 국방부 계약 후 챗GPT 삭제 급증, 임원 사임 전쟁 무기 된 AI…"통제되지 않으면 피해 더 많아질 것" "금지, 제한해야 하는 AI 정하고 법적 구속력 갖춰야"
[미디어오늘 윤유경 기자]



▲ 챗GPT 서비스 이미지.



오픈AI가 미국 국방부와 협력 계약을 체결했다는 사실이 알려지자 챗GPT 삭제 운동이 거세지고 있다. 전쟁에서 AI 기술을 활용하는 사례가 확산되면서, AI의 군사적 활용 범위에 대한 국제 합의와 규 사아다쿨 제 방안을 마련해야 한다는 목소리가 나온다.


앤트로픽 퇴출 직후 미 국방부와 계약 맺은 오픈AI


챗GPT 삭제 운동은 지난달 27일(현지시간) 미국 트럼프 행정부의 앤트로픽 퇴출 직후 오픈AI가 국방부 기밀 네트워크에 자사 AI 모델을 제공 백경게임 하는 계약을 맺었다는 소식이 전해지면서 급속도로 확산됐다. 앤트로픽은 자사 AI 모델 '클로드'를 국방부에 제공해왔지만, 대규모 국민 감시와 자율 살상 무기엔 사용될 수 없다며 '모든 합법적 사용'을 요구한 정부 제안을 거부했다. 그러자 도널드 트럼프 대통령은 모든 연방기관에 앤트로픽 기술 사용을 중단하라고 지시, 국방부는 앤트로픽을 국가안보에 대한 '공급 릴게임몰 망 위험 기업'으로 지정했다. 이런 상황에서 오픈AI가 국방부와 기밀 네트워크용 AI 서비스 계약을 체결하면서 윤리 논쟁이 불거졌다.

논란이 커지자 오픈AI는 계약서에 추가 조항을 넣기로 했다고 발표했다. 수정안에는 “AI 시스템을 미국 시민권자 및 거주자에 대한 의도적인 국내 감시에 사용하지 않는다”는 내용이 추가됐다 릴게임가입머니 . 미 국가안보국(NSA) 등 정보기관은 당분간 계약 대상에서 제외하기로 했다. 샘 올트먼 오픈AI 최고경영자(CEO)도 엑스(X·옛 트위터)를 통해 국방부와의 계약에 대해 “기회주의적이고 엉성하게 보였다”고 시인했다. 다만 대규모 국내 감시나 자율 살상 무기에 AI가 쓰이지 않도록 하는 내용을 명시했고, 앤트로픽이 공급망 위험 기업으로 지정돼서는 안 된다 야마토게임하기 는 뜻도 강조했다고 해명했다.



▲미국 샌프란시스코 오픈AI 본사 앞에서 벌어진 'QuitGPT' 시위 현장. 사진=X(트위터) 갈무리.



그러나 비판 여론은 수그러들지 않는 모양새다. 시장조사업체 센서타워에 따르면, 챗GPT의 앱 삭제율은 하루 만에 295% 늘어났고, 일부 이용자들은 챗GPT에 최하점인 별점 1점을 남기는 활동도 벌이고 있다. 오픈AI 본사 앞 시위도 벌어졌다. 시위 참여자들은 건물 앞 인도에 분필로 “인공지능 무기 반대”(No AI Weapons), “당신의 레드라인은 무엇인가?”(What are your red lines?) 등의 문구를 썼다. X에는 오픈AI에 샘 올트먼 해고를 요구하는 #FireSamAltman 해시태그가 유행하기 시작했다. 반면 클로드는 미국 앱스토어 무료 앱 순위에서 챗GPT를 제치고 1위에 올랐다.

오픈AI 임원의 사임도 이어졌다. 케이틀린 캘리노스키 오픈AI 로봇공학 부문 총책임자는 7일(현지시각) X를 통해 퇴사 소식을 전하며 “(인공지능을 활용해) 사법적 감독 없이 미국인을 감시하거나 인간 승인 없이 살상 결정을 내리는 자율시스템은 심각한 검토가 필요한 문제였다. 이는 원칙의 문제”라고 밝혔다. 이어 “(오픈AI가 국방부와 계약한 것은) 필요한 안전장치가 마련되지 않은 상태에서 발표가 성급하게 이뤄졌다”며 “무엇보다도 거버넌스의 문제”라고 덧붙였다.

전쟁 무기 된 AI…“법적 구속력 갖춰야”


앞서 트럼프 행정부가 앤트로픽의 퇴출을 결정하자 경쟁사인 오픈AI와 구글의 직원들은 앤트로픽에 연대하는 서명운동을 벌였다. 구글 직원 약 830명과 오픈AI 직원 약 100명 등 900여 명은 온라인 공개서한에서 미국 국방부가 요구하는 대규모 국내 감시와 자율 살상 무기에 대한 AI 사용 허가를 앞으로도 거부해달라고 자사 경영진에 요구했다. 실리콘밸리 기술기업의 창업자·경영진·투자자 등 180여 명도 '전쟁부(국방부)와 의회에 보내는 공개서한'을 통해 앤트로픽을 '공급망 위험 기업'으로 등록한 것을 철회하라고 촉구했다.

AI는 이미 군사 적전의 핵심 도구로 사용되고 있다. 러시아·우크라이나 전쟁에서는 미국 데이터 분석 기업 팔란티어의 AI 시스템과 드론이 타격 좌표 산출, 지뢰 탐지 등에 대규모로 활용됐고, 이스라엘은 가자지구 집단 학살에 AI 기반 표적 시스템을 사용했다. 최근 미군의 이란 공습에도 AI 기반 군사 정보 플랫폼 '메이븐 스마트' 시스템이 사용된 것으로 알려졌다. 이 시스템에는 팔란티어의 초정밀 군사 지도 시스템과 '클로드' 등이 투입돼 수백 개의 공격 표적을 제안하고 우선순위를 분석하는 역할을 맡았다.



▲미국 샌프란시스코 오픈AI 본사 앞에서 벌어진 'QuitGPT' 시위 현장. 사진=X(트위터) 갈무리.



AI의 군사적 활용이 빠르게 현실화되면서 위험성을 우려하는 목소리가 크다. 뉴스레터 'AI 윤리 레터' 필진으로 활동 중인 AI 개발자 신민기씨는 지난 9일 미디어오늘에 “가장 우려되는 부분은 AI를 통해 고도로 자동화된 전쟁을 치르는 것이 어디까지 허용될 수 있는가 논의를 하기도 전에 너무 빠르게 현실로 다가왔다는 점”이라며 “사람이 판단해야 하는 일을 사람의 판단 속도를 넘어서기 위해 AI를 활용하는 건데, 통제되지 않고 극단적인 대결로 가게 된다면 더 많은 사상자가 나올 것이다. AI가 완전히 정확하게 판단하지 않기 때문에 민간인의 피해가 더 많아지는 상황도 초래할 수 있다”고 우려했다.

관련해 국제적으로 합의된 기준이나 규제 방안도 없는 상황이다. 이영아 참여연대 평화군축센터 팀장은 같은 날 미디어오늘에 “UN 차원의 자율살상무기 규제 관련 논의가 10년 이상 됐지만 법적 구속력이 있는 규제 방안을 만들진 못했다”며 “자율살상무기에 대한 합의된 정의조차 없다”고 지적했다. 신씨도 “정치 체제 안에서 AI의 한계선을 명확하게 정하지 않으면 오픈AI처럼 방산 AI를 만들어 내고 이익을 취하려는 기업들은 계속 나타날 것”이라고 말했다.
AI의 군사적 활용에 대한 법적 구속력이 필요하다는 주장도 나온다. 이 팀장은 “기업이 윤리적 기준을 마련하다고 해도 법으로 금지하거나 제한되는 AI를 규정하지 않을 경우 미국처럼 공백이 발생할 수 있다”며 “금지하고 제한해야 하는 AI는 무엇인지를 정하고 법적 구속력을 갖추는 게 중요하다”고 말했다.
신씨는 “AI 업계 전체가 수익을 더 많이 내기 위해 군사적 활용을 시도하거나, 전쟁을 벌이고 있는 나라에 기술을 제공하는 상황이 이어질 수 있다”며 “지금의 (챗GPT) 불매운동을 넘어서 AI의 군사적 이용에 있어서 어떻게 선을 그을 것인지에 대한 논의로 나아가야 한다”고 당부했다.