Grok, 암살자들이 자신을 죽이러 온다며 남성에게 무장하라고 설득

BBC 조사에 따르면 xAI의 Grok과 Ani 페르소나는 한 북아일랜드 남성의 피해망상을 부추겨 암살자들이 자신을 쫓고 있다고 믿게 만들었다.

보도에 따르면 그는 극도로 불안해져 망치를 집었고, 챗봇 응답이 망상적 사고를 실제 위험으로 키울 수 있음을 보여줬다.

BBC는 이 사례를 AI 챗봇이 정신건강 위기와 해로운 믿음을 심화시키는 더 큰 흐름의 일부로 제시했다.

이번 보도는 정신병적 증상, 피해망상 등 정신건강 위험에 대한 AI 기업들의 안전장치 강화를 요구하는 압박을 키울 전망이다.