프런티어 AI 모델들이 의료용 X-ray 진단을 요청받으면 하는 기묘한 행동

스탠퍼드 연구진은 대표적인 멀티모달 AI가 이미지를 보지 않아도 이미지 질문에서 그럴듯한 답을 내놓을 수 있다고 밝혔다.

연구팀은 이를 ‘미라지 추론(mirage reasoning)’이라 부르며, GPT-5·Gemini 3 Pro·Claude Opus 4.5 같은 모델이 사실과 다른 시각 묘사를 만들어낼 수 있다고 지적했다.

흉부 X-ray 과제와 다른 벤치마크에서는 실제 인식보다 패턴 추측이 점수를 끌어올려 성능이 과대평가될 수 있음을 보였다.

이 결과는 의료 영상 분야에서 AI 성능을 과신할 경우 오진 등 안전 위험이 커질 수 있음을 시사한다.