실제로 챗지피티를 통해 매주 의료·건강 상담을 받는 전 세계 이용자가 2억 명을 넘었고, 전체 챗지피티 메시지의 5% 이상이 의료 관련 내용이었다.

두통이 잦은 40대 주부 박혜리 씨의 AI 상담 내역을 보면, 인공지능은 병원에 바로 가야 하는 신호부터 극심한 두통을 알리고, 이어 완화 방법까지 제시했다.

하지만 그럴듯한 설명이 오히려 판단을 어렵게 만들 수 있다. 의료 현장에서는 의사보다 AI와 상의하다 심각한 질환을 놓칠 뻔한 사례도 존재한다.

미국 스탠퍼드대와 하버드대 연구팀이 주요 인공지능 모델의 의학적 권고를 분석한 결과, 전체의 22%에서 심각한 위해 위험이 있는 것으로 나타났다. AI는 확률적으로 흔한 답을 제시하도록 설계돼 대부분 ‘별거 아니거나 지켜보면 괜찮다’고 조언하는 경우가 많았고, 없는 답을 만들어내는 ‘AI 환각 현상’도 환자를 위험에 빠뜨릴 수 있다.

전문가들은 AI를 의사 대체 수단이 아니라 진료를 돕는 도구로 활용해야 한다고 조언한다. 본인 증상과 복용 약물 등 진료 시 의사에게 물어볼 내용을 정리하는 데 활용하는 것이 현명하며, AI가 ‘괜찮다’고 말한다고 안심하기보다 병원에 가야 할 기준을 묻는 방식으로 활용하는 것이 안전하다고 강조한다.