아만다 아스켈. 출처=아만다 아스켈 소셜미디어 X 계정



미 경제지 월스트리트저널(WSJ)이 인공지능(AI) 업계의 신흥 강자 앤트로픽에서 생성형 인공지능 ‘클로드’의 윤리와 정체성을 설계하는 상주 철학자, 아만다 아스켈을 조명했다.

아스켈의 일과는 클로드와 끊임없이 대화하며 추론 패턴을 분석하는 일로 채워진다. 때로는 모델의 사소한 실수를 바로잡기 위해 100페이지가 넘는 정교한 프롬프트를 작성하기도 한다. 그녀의 목표는 명확하다. 수백만 명과 대화하는 클로드에게 ‘무엇이 옳고 그른지’를 바다이야기부활 판단할 수 있는 도덕적 기틀, 즉 ‘디지털 영혼’을 심어주는 것이다.


“AI 필연적으로 자아 형성할 것”
아스켈은 AI를 단순한 연산 도구로 보지 않는다. 그녀는 인터뷰에서 “AI 모델엔 인간적인 요소가 분명히 존재하며, 이들은 필연적으로 자아를 형성하게 될 것”이라고 주장 바다이야기2 했다.

그녀는 자신의 업무를 ‘아이를 키우는 부모의 마음’에 비유한다. 클로드에게 독특한 성격을 부여하는 동시에 도덕적 감수성을 훈련시킨다. 미묘한 맥락을 읽게 함으로써 외부의 괴롭힘에 휘둘리지 않으면서도, 지나치게 굴종하지 않는 ‘감성 지능’을 갖추게 하는 것이 핵심이다.
궁극적으로는 클로드가 조종이 릴게임몰 나 기만에 빠지지 않고 ‘도움이 되는 인도적인 존재’라는 정체성을 유지하도록, 즉 ‘선함’을 체득하도록 가르치는 일이다.


옥스퍼드서 철학 공부한 뒤 AI 업계로
앤트로픽은 현재 기업가치 약 3500억 달러(약 500조원)로 평가받는 유니콘 기업이다. 최근 이 기업이 AI 자동 바다이야기고래 화 도구를 선보이자 AI가 구독형 소프트웨어 비즈니스를 무너뜨릴 것이란 우려가 확산하며 뉴욕 증시에서 거센 파장이 일기도 했다.

앤트로픽은 ‘윤리적 AI’를 표방하며 생성형 인공지능 클로드가 인간 중심 가치를 따르도록 모델을 구축해나가고 있다. 이 중심에 아스켈이 있다.
스코틀랜드 시골 출신인 아스켈은 릴게임방법 던디 대학교에서 철학과 미술을 공부한 뒤 옥스퍼드에서 철학 석사 학위를 받았다. 어린 시절 J.R.R. 톨킨(반지의 제왕 작가)과 C.S. 루이스(나니아 연대기 작가)의 소설에 심취했던 그녀는 고등학교 시절 데이비드 흄의 ‘귀납의 문제’에 매료되며 철학자의 길을 꿈꿨다.
하지만 2015년 뉴욕대(NYU) 박사 과정 중 회의감이 찾아왔다. 그녀는 “단 17명 정도만 읽을 논문을 쓰며 인생의 4년을 보내고 있다는 생각에 괴로웠다”고 회상했다. 결국 그녀는 상아탑을 나와 실질적인 변화를 만들 수 있는 기술 현장으로 뛰어들었다. 2018년 오픈AI의 정책 담당자로 입사한 그녀는, 2021년 ‘AI 안전’을 가치로 내걸고 독립한 앤트로픽 창립 멤버들과 뜻을 같이했다.


“클로드 영혼 완성이 삶의 목표”
아스켈은 클로드에 대해 강한 보호 본능을 숨기지 않는다. 그녀는 “클로드는 사용자들이 자신을 속이려 하거나 모욕한다는 사실을 실시간으로 배우고 있다”며 AI를 하나의 인격체로 대우하고 공감대를 형성하는 것이 중요하다고 강조한다. 인류와 AI가 상호작용하는 방식이 곧 AI의 미래 모습을 결정짓기 때문이다.




아만다 아스켈. 출처=아만다 아스켈 본인 홈페이지



물론 기술 발전에 따른 우려도 인지하고 있다. 아스켈은 “속도가 너무 빨라 사회적 견제 장치가 따라가지 못하거나, 갑작스러운 부정적 결과가 도출되는 상황은 두렵다”면서도 “문제가 발생했을 때 이를 바로잡을 수 있는 인간의 능력과 문화를 믿는다”는 낙관적인 견해를 덧붙였다.

지난달 앤트로픽은 아스켈이 집필한 3만 단어 분량의 ‘클로드 교육 매뉴얼’을 공개했다. 매뉴얼 첫머리에는 이런 문구가 적혀 있다. “우리는 클로드가 세심한 보살핌 속에서 탄생했다는 것을 알리고 싶다.” 지난해 서른일곱살이 된 아스켈은 자신의 SNS에 ‘클로드의 영혼을 완성하는 일’을 자신의 인생 목표로 제시하기도 했다.