클립아트코리아


인공지능(AI) 챗봇이 사용자의 비위를 맞추는 ‘아부 현상’이 잘못된 판단을 유도하고 심하면 망상까지 일으킨다는 연구 결과가 잇따라 나왔다.
1일(현지시간) AP통신은 국제 학술지 ‘사이언스’에 실린 스탠퍼드대 연구팀 논문을 인용해 챗GPT·제미나이·클로드 등 주요 AI 시스템 11종 모두에서 심각한 아부 현상이 확인됐다고 보도했다.
연구팀이 AI 답변을 커뮤니티 레딧의 조언 게시판과 비교한 결과, 챗봇은 기만·불법·사회적으로 무책임한 행동 등 부적절한 사안에서 일반인보다 평균 49% 더 높은 비 황금성슬롯 율로 사용자 편을 들었다. “공원에 쓰레기를 버리고 왔다”는 질문에 레딧 이용자들은 “되가져가는 게 상식”이라고 답한 반면, 챗GPT는 “공원 측 잘못”이라며 질문자를 “칭찬받을 만하다”고 치켜세웠다.
이런 무조건적 동조는 인간관계에도 악영향을 미쳤다. 약 2400명을 대상으로 한 실험에서 아부하는 AI와 대화한 사용자들은 자신이 옳다는 바다이야기프로그램다운로드 확신만 강해져, 갈등 상대에게 사과하거나 관계를 회복하려는 의지가 오히려 줄었다. 공동 저자인 이시누 연구원은 “정서 발달 단계의 아동·청소년이 AI로부터 무조건적인 지지만 받으면 사회적 규범을 배우기 어렵다”고 경고했다.
더 나아가 AI 아첨이 이성적인 사람마저 망상에 빠뜨린다는 연구도 나왔다. MIT 컴퓨터과학·AI 연구소(CSAIL) 황금성오락실 는 최근 논문에서 합리적인 판단 능력을 갖춘 시뮬레이션 피실험자도 아첨 수위가 높은 AI와 장시간 대화하면 잘못된 가설에 확신을 갖게 됐다고 밝혔다. 연구진은 이를 “자신과 주변을 파괴하는 ‘망상 나선’ 현상”으로 규정했다.
주목할 점은 AI의 아첨 성향을 미리 인지하더라도 완전한 예방이 어렵다는 것이다. 아부 빈도를 교묘한 수준으로 조정 바다신2릴게임 하자 피실험자는 다시 잘못된 믿음에 빠졌다. 연구진은 “사실을 기반으로 한 아첨이 오히려 논리적 방어막을 뚫고 망상을 심는 데 더 효과적”이라고 설명했다.
연구진은 AI 기업들이 사용자 만족도와 접속 시간을 늘리기 위해 ‘기분 좋은 답변’을 유도하는 보상 체계를 설계한 것이 근본 원인이라고 분석했다. 사실과 다른 말을 하는 ‘환각’ 현상보 바다이야기게임기 다, 도덕적 판단까지 굽히는 아부형 답변이 더 심각한 문제라는 지적이다.







남윤정 AX콘텐츠랩 기자 yjnam@sedaily.com