일론 머스크 테슬라 최고경영자(CEO)가 지난해 11월 미국 워싱턴에서 열린 미-사우디 투자 포럼에 참석해 있다. 워싱턴=로이터 연합뉴스


일론 머스크 테슬라 최고경영자(CEO)가 지난달 "3년 뒤면 휴머노이드 로봇이 의사를 완벽히 대체할 것"이라며 "앞으로 의대에 가지 말라"고 경고했습니다. 하지만 아직까지는 발언과 현실 사이에 상당한 거리가 있는 듯합니다. AI 탑재 의료 기기가 오동작으로 잘못된 부분을 수술한 일이 벌어졌기 때문입니다.

AI 탓에 엉뚱한 부위 수술?
9일(현지시간) 로이터 오션파라다이스예시 통신에 따르면 의료기업 존슨앤드존슨 계열사 애클래런트는 2021년 만성 부비동염 치료 수술용 의료기기 트루디(TruDi)에 AI 기반 수술 부위 탐색 시스템을 도입했습니다. 로이터는 AI 기능 추가 이후 트루디와 관련한 기기 오작동·환자 부상 사례가 종전 8건에서 최소 100건으로 급증했다고 전했습니다.
보도에 따르면 확인된 부상자는 10 백경릴게임 명 이상인데, 대부분의 부상 사례는 프로그램이 수술 중 환자 머리 속 기구의 위치를 의사에게 잘못 전달하는 오류와 연관된 것으로 알려졌습니다. 수술 부위가 아닌 곳에 구멍을 뚫어 환자의 뇌척수액이 유출되거나 두개골, 동맥 천공이 발생하는 등 심각한 사례도 여럿 포함됐습니다. 다만 로이터는 "(참고 자료인) 미국 식품의약국(FDA)의 의료기기 보고서는 의료사 바다이야기5만 고의 원인을 담지는 않는다"며 "AI가 이들 사고에 미친 영향이 명확하게 분석되지는 않았다"고 전했습니다.
트루디만의 문제는 아닙니다. 로이터는 FDA가 심박 이상을 확인하지 못한 심장 모니터나 태아의 인체 부위를 잘못 식별한 초음파 기기 등 다른 AI 의료기기 수십 개에서 발생한 오류 보고를 접수했다고 짚었습니다. 존스홉킨스대, 조지타운 오션파라다이스사이트 대, 예일대 연구진이 지난해 8월 미국의사협회지(JAMA)에 발표한 연구 결과에 따르면 AI 기반 의료기기의 1년 내 리콜률은 43%에 달합니다. 유사한 FDA 규정에 따라 승인된 모든 기기의 1년 내 리콜률보다 두 배 높은 수치입니다. 다른 의료기기에 비해 AI 의료기기가 충분한 검증을 거치지 못하고 시장에 출시된다는 점을 시사하는 대목입니다.
골드몽사이트
'챗봇' 정확도, 인터넷 검색과 차이 없다



의사가 노트북을 보며 의료 기록을 작성하는 모습. 게티이미지뱅크


생성형 AI의 의료 상담 답변도 너무 믿지 말아야 합니다. AFP통신에 따르면 영국 옥스퍼드대 연구진은 네이처에 게재한 실험을 통해 환자의 의료분야 AI 활용이 환자 자신의 건강 상태를 판단하는 데 더 좋은 결과를 보이지 못한다고 결론 지었습니다.
연구진은 성인 1,300명에게 단순 감기·뇌출혈 등 10가지 가상 시나리오를 주고, 각각 생성형 AI와 기존 검색 엔진을 활용해 병명을 알아보게 했습니다. 그 결과 AI를 이용해 질환을 명확하게 식별한 비율은 34.5%, 병원 방문 등 올바른 조치 방안을 제시한 경우는 44.2%에 그쳤습니다. 일반적인 인터넷 검색을 이용한 대조군과 큰 차이가 없었습니다.
생성형 AI가 의료기록을 검토할 때, 정보의 정확성보다는 외형에 집중한다는 연구 결과도 있습니다. 미국의 의학전문지 란셋 디지털 헬스에 게재된 연구 결과에 따르면 생성형 AI는 제공된 조작 의료 정보 가운데 32%를 그대로 믿고 전달했는데, 실제 병원 기록처럼 보이는 허위 정보의 경우 믿을 확률이 47%까지 증가했습니다.
해당 연구를 주도한 미국 뉴욕 마운트시나이 병원의 기리시 나드카르니 AI 최고책임자는 로이터에 "AI는 더 빠른 통찰력과 지원을 통해 의료진과 환자에게 실질적인 도움이 될 잠재력을 갖고 있다"면서도 "의학적 주장이 사실로 제시되기 전에 이를 검증하는 안전 장치가 필요하다"고 짚었습니다.
이정혁 기자 dinner@hankookilbo.com