정신 건강을 위한 AI 구축과 현장 적용을 가로막는 핵심적인 AI 미지의 요소들

생성형 AI와 LLM이 내부적으로 어떻게 작동하는지에 대한 미해결 질문이 안전한 정신건강 도구 개발을 늦추고 있다.

사람들은 ChatGPT, Claude, Gemini, Grok, Copilot 등을 조언이나 상담 비슷한 대화에 점점 더 많이 사용하고 있다.

전문가들은 이런 불확실성 때문에 AI가 신뢰할 수 있고 해롭지 않은 정신건강 안내를 제공하기 어렵다고 경고한다.

기사는 AI의 동작 원리가 충분히 이해되기 전에 잘못되거나 위험한 조언이 나올 수 있다는 우려를 짚는다.