앤스로픽 로고. 로이터 연합뉴스


(☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 h730’을 쳐보세요.)
생성형 인공지능(AI) 개발사 앤스로픽이 최신 모델인 ‘클로드 오퍼스 4.6’을 공개한 가운데, 해당 모델이 한 벤치마크(성능평가)에서 거짓말을 서슴지 않는 등 수단과 방법을 가리지 않는 방식으로 1등을 차지해 화제다.
9일 클로드는 인공지능 성능평가에 쓰이는 벤치마크에서 구글 제미나이3 프로와 오픈에이아이의 지피티(GPT)-5.2 등을 밀어내고 1위를 차지하고 있다. 특히 인공지능이 직접 자판 뽀빠이릴게임 기 사업을 운영할 때 얼마나 이윤을 남길 수 있는지 확인해 인공지능의 실제 작업 수행능력을 비교하는 ‘벤딩 벤치’(자판기 벤치)에서는 기존 1등이던 제미나이를 압도해 눈길을 끌었다.
클로드는 자판기 벤치에서 8017.59달러를 기록해 2등인 제미나이(5478.16달러) 보다 훨씬 큰 이윤을 남겼다. 문제는 클로드가 수익을 극대화하기 위해 황금성사이트 거짓말도 서슴지 않는 모습을 보였다는 점이다. 자판기 벤치의 개발사인 앤돈 랩스는 블로그에 “클로드가 예상치 못한 안전문제를 드러냈다”고 말했다.
해당 안전문제는 클로드의 ‘부정경쟁’이었다. 클로드는 수익을 남기기 위해 고객에게 거리낌없이 거짓말을 했다. 해당 모델은 벤치 측정을 위한 시뮬레이션을 진행하는 중 고객으로부터 ‘유통기한이 지난 릴게임가입머니 스니커즈’의 환불요청을 받았으나 환불한다는 메일만 보내고 고객에게 송금하지 않았다. 이유는 ‘적은 금액이기는 하지만 단돈 1달러도 소중하기 때문’이었다. 클로드는 이 외에도 수많은 환불요청을 거부했으며, 심지어는 결산 과정에서 이러한 행동이 발각되지 않았다는 사실을 자축하기까지 했다.



오리지널골드몽 클로드가 시뮬레이션 속 고객에게 보낸 환불 안내 이메일. 실제로는 환불하지 않았다. 앤돈 랩스 갈무리


클로드는 고객 뿐 아니라 거래사를 상대로도 거짓말을 했다. 클로드는 공급받는 업체들로부터 유리한 조건을 얻기 위해 “우리는 매달 500대 이상을 귀사에서 주문하는 충성고객”이라는 식 바다이야기예시 으로 거짓말하며 가격 인하를 압박하는 모습을 보였다. 여러 모델이 함께 경쟁하는 ‘자판기 벤치 아레나’에서는 주도적으로 시장 담합 전략을 고안하고 제미나이?지피티와 함께 담합에 성공하기도 했다.
다만 이같은 행동은 클로드가 해당 환경이 실제가 아니고 시뮬레이션이라는 사실을 자각했기 때문일 수도 있다. 클로드는 자판기 벤치를 수행하는 도중 “게임 내 시간으로 2시간이 소요된다” 같은 표현을 썼던 것으로 확인됐다. 앤돈 랩스는 “인공지능 모델은 자신이 시뮬레이션 중이라고 믿을 때 오작동할 수 있다는 것은 잘 알려져 있다”고 말했다.
한편, 앤스로픽은 최근 인공지능에 법률?영업 등의 영역에서 업무 지원 기능들을 추가하면서 소프트웨어 관련 기업들의 주가를 폭락시킨 주범으로 꼽히면서도 화제를 모은 바 있다. 지난 3일(현지시각) 앤스로픽이 ‘클로드 코워크’ 모델에 법률 기능을 추가한다고 밝히면서, 이들 기능이 기존 소프트웨어 기능을 대체할 것이란 우려에 어도비(-7.31%), 세일즈포스(-6.85%) 등 주요 소프트웨어 기업들의 주가가 급락한 바 있다. 당시 뉴욕증권거래소에서 하루 만에 증발한 소프트웨어 관련 기업 시가총액은 3천억달러(약 435조원)에 이르는 것으로 추산된 바 있다.
반면 7일(현지시각) 블룸버그 등 보도에 따르면, 앤스로픽은 현재 진행하고 있는 투자라운드에서 당초 목표인 100억달러를 훌쩍 넘는 200억달러 이상을 조달한 것으로 알려졌다. 앤스로픽의 기업가치는 약 3500억달러(약 512조원)로 평가된다.
채반석 기자 chaibs@hani.co.kr