의사들의 AI 시스템이 환자 진료 중 존재하지 않는 의료 문제를 환각하고 있다

온타리오 감사원은 테스트한 승인된 AI 의료 기록 보조 도구 20개 전부에서 허위, 누락, 오기 등 부정확한 내용이 발견됐다고 밝혔다.

당국은 문제가 실제 진료가 아닌 시험 과정에서 확인됐다고 설명했지만, 해당 도구는 이미 온타리오에서 약 5,000명의 의사가 사용 중이다.

AI가 생성한 진료 기록의 오류가 치료 결정에 영향을 줄 수 있어 환자 안전 우려가 커지고 있다.

이번 감사 결과로 OpenEvidence 등 빠르게 확산 중인 의료 AI 도구에 대한 규제가 더욱 주목받고 있다.