캐나다 온타리오 주 감사원이 의료용 AI 진료 기록 보조 시스템 20개를 평가한 결과, 절반에 가까운 9개 시스템이 실제 진료 녹음에 전혀 등장하지 않는 내용을 환자 기록에 만들어 넣는 이른바 ‘환각’ 현상을 일으킨 것으로 나타났다. 20개 중 12개는 잘못된 약물 정보를 삽입했고, 17개는 환자의 정신건강 문제를 제대로 포착하지 못했다. 이번 감사는 온타리오주 의료부가 5천 명 이상의 의사와 간호사에게 보급 중인 AI 의무 기록 작성 프로그램 전반에 대한 우려를 공식화한 첫 사례다.
온타리오 감사원장실이 발표한 특별 감사 보고서에 따르면, 평가 과정에서 사용된 시뮬레이션 녹음에는 언급된 바 없는 ‘혹이 발견되지 않았다’는 소견이나 ‘환자가 불안 증세를 보였다’는 내용이 AI가 자체 생성한 기록에 포함되는 사례가 확인됐다. 의료 전문가들은 원본 녹음과 AI 생성 기록을 나란히 검토하는 방식으로 정확도를 평가했으며, 이를 통해 임상적으로 치명적일 수 있는 오류들이 수면 위로 드러났다.
이 같은 결과가 더욱 우려스러운 이유는 평가 기준 자체가 왜곡돼 있었기 때문이다. 보고서에 따르면 각 시스템의 최종 점수에서 의료 기록의 정확도가 차지하는 비중은 4%에 불과했다. 반면 온타리오 내 국내 거점 존재 여부는 전체 점수의 30%를 좌우했다. 편향 통제 항목은 2%, 보안 및 개인정보 위협 평가도 2%, SOC 2 Type 2 인증 충족 여부는 4%에 그쳤다. 다시 말해, 정확성과 안전성에 직결된 항목들이 총점의 10% 남짓만을 차지한 구조였다.
보고서는 이러한 평가 구조가 “정확하지 않거나 편향된 의료 기록을 생성하거나, 민감한 개인 건강정보 보호에 취약한 시스템이 선정되는 결과로 이어질 수 있다”고 지적했다. 즉, 문제는 AI 시스템 자체의 성능에만 있는 것이 아니라, 어떤 기준으로 해당 시스템을 공식 인증했는지에 있다는 것이다.
의사들의 기술 도입을 지원하는 의료 단체 온타리오MD는 의사들에게 AI가 생성한 기록을 수동으로 검토하도록 권고하고 있다. 그러나 보고서는 공인된 AI 진료 기록 보조 시스템 20개 가운데 기록 확인을 의무화하는 기능을 탑재한 시스템이 단 하나도 없다는 사실을 지적했다. 검토를 ‘권장’하는 것과 시스템 차원에서 ‘강제’하는 것은 전혀 다른 문제다.
이 문제는 온타리오에만 국한되지 않는다. 미국에서는 오픈에비던스(OpenEvidence)라는 AI 의료 보조 도구가 의사들 사이에서 별다른 공론화 없이 급속도로 퍼져, 2026년 4월 기준 미국 의사의 65%인 약 65만 명이 임상 판단에 활용하고 있다. 환자 대부분은 자신의 담당 의사가 AI의 도움을 받고 있다는 사실조차 모른다. 현재 미국에는 의사가 AI 사용 여부를 환자에게 고지하도록 강제하는 규정이 없다. 전문가들은 AI 도구의 환각 현상, 검증되지 않은 임상 효과, 의사의 비판적 판단력 약화를 우려하지만, 이 도구는 규제보다 훨씬 빠르게 이미 의료 현장 깊숙이 들어와 있다.
한국도 이 흐름에서 예외가 아니다. 서울아산병원은 2025년 4월, 진료실과 응급실을 포함한 모든 의료 환경에서 의료진과 환자의 대화를 실시간으로 기록하고 요약해 의무 기록까지 자동으로 작성하는 AI 음성인식 시스템을 국내 최초로 구축했다고 밝혔다. 현재 종양내과, 정신건강의학과 등 16개 진료과와 응급실에서 이미 가동 중이며, 향후 적용 범위를 더 넓힐 계획이다. 온타리오에서 감사 대상이 된 시스템과 기능 면에서 사실상 동일하지만, 국내에서 이 시스템의 정확도를 독립적으로 검증하거나 오류 사례를 공개적으로 검토한 기록은 아직 없다.
Doctors’ AI Systems Are Hallucinating Nonexistent Medical Issues During Appointments With Patients | Joe Wilkins, Futurism
If you’ve been to a medical appointment in the past two or three years, chances are high that your doctor was using an AI scribe: software that listens into… pic.twitter.com/Ze6YshwCWS
— Owen Gregorian (@OwenGregorian) May 17, 2026
