허깅페이스, AI 모델이 성인 딥페이크를 생성하는 문제에 시달려

AI Forensics 보고서에 따르면 Hugging Face가 성적 딥페이크와 비동의 친밀 이미지 생성에 쓰일 수 있는 AI 도구들을 호스팅하고 있다.

테스트 결과, Spaces에 있는 주요 이미지 편집 모델 대부분이 사람을 벗기는 프롬프트를 따랐고, 대부분의 감사 대상 Spaces에서 안전장치와 모더레이션이 거의 없었다.

보고서는 미성년자가 포함될 수 있는 유해 이미지까지 만들 수 있는 도구가 주요 AI 플랫폼에서 쉽게 배포되고 있다는 점을 우려했다.

이는 비동의 성적 이미지 금지 정책이 있음에도, 대형 AI 호스팅 서비스가 악용 도구를 사실상 돕고 있을 수 있다는 비판으로 이어진다.