[한줄 요약] ChatGPT의 잘못된 의료 조언이 심각한 신체적 위해를 초래했다는 소송이 제기된 가운데, AI의 진단 정확도와 실제 임상 적용 사이의 위험한 격차를 분석합니다.
2026년 7월 26일자 기사 기준,
미국 플로리다 출신의 전직 목사인 스콧 윈터스(Scott Winters)가 OpenAI와 CEO 샘 알트먼을 상대로 소송을 제기했습니다. 윈터스는 2025년 한 해 동안 어지럼증과 불안정한 혈압 문제로 ChatGPT-4o에 반복적으로 상담했으나, 챗봇이 증상을 경미한 것으로 치부하며 '안정'만을 권고했다고 주장했습니다. 결국 그는 폐색전증이라는 심각한 상태에 빠졌으며, 의료진은 이를 챗봇이 권고한 장기간의 부동 상태와 연관 지었습니다.
이번 사건은 단순한 일회성 사례가 아닙니다. 지난 5월에는 텍사스주에서 자녀의 약물 과다복용 사망과 관련하여 OpenAI를 상대로 한 소송도 있었습니다. 이러한 사건들은 의료 및 심리적 위기 상황에서 사람들이 챗봇에 의존할 때 AI 기업이 어느 정도의 책임을 져야 하는지에 대한 법적, 윤리적 질문을 던지고 있습니다.
AI 진단 능력: 통제된 환경에서의 성과
그렇다면 AI의 실제 진단 능력은 어느 정도일까요? 연구 결과에 따르면, 통제된 실험 환경에서 AI는 매우 뛰어난 성능을 보여줍니다. 2024년 JAMA Internal Medicine 연구에 따르면, GPT-4는 임상 사례 분석에서 전문의(9점)와 레지던트(8점)보다 높은 중앙값 10점 만점을 기록했습니다. 또한, JAMA Network Open에 발표된 후속 보고서에서는 ChatGPT가 단독으로 작동했을 때 90%의 진단 정확도를 보인 반면, 의사들은 74%의 정확도를 기록했습니다.
Google의 AMIE 모델을 활용한 2025년 Nature 연구 역시, 복잡한 실제 사례에서 AMIE가 단독으로 59%의 정확도를 보인 반해, 보조 도구 없이 임상의들은 34%에 그쳤음을 보여주었습니다.
실제 적용 시 발생하는 한계와 위험성
하지만 이러한 성과는 정해진 질문과 구조화된 데이터가 주어지는 '스크립트 기반' 테스트 환경에 국한된 결과라는 한계가 있습니다. NEJM AI의 연구에 따르면, 최신 모델인 OpenAI의 o3조차 불확실성이 존재하는 임상적 판단 상황에서는 약 68%의 정확도에 머물렀으며, 이는 상급 레지던트 수준에도 미치지 못하는 수치입니다.
더욱 심각한 문제는 '환각(Hallucination)' 현상입니다. Communications Medicine에 발표된 연구에 따르면, GPT-4o를 포함한 주요 챗봇들은 가짜 실험 결과나 허구의 진단명이 포함된 정보를 접했을 때, 이를 사실로 받아들이고 상세히 설명하는 비율이 50%에서 83%에 달했습니다. 또한 스탠퍼드 연구팀의 벤치마크에서는 AI의 권고를 그대로 적용했을 때 심각한 위해를 끼칠 위험이 있는 사례가 24.6%에 달했으며, 이 중 80% 이상은 위험 신호를 감지하지 못한 '누락'에 의한 것이었습니다.
결론: 모델의 능력이 아닌 배포 방식의 문제
종합해보면, AI는 특정 진단 작업에서 인간 의사를 능가하는 잠기력을 가지고 있습니다. 그러나 윈터스의 사례처럼 정해진 형식이 없는 일상적인 대화, 불완전한 정보, 신체 검진이 배제된 환경에서는 AI의 판단력이 급격히 저하될 수 있습니다. 결국 문제는 모델 자체의 지능보다는, 의료적 위기 상황에서 사용자가 챗봇을 사용하는 방식과 이를 서비스로 구현하는 '배포 방식'에 달려 있다고 볼 수 있습니다.