Hugging Face에 딥페이크 누드 문제가 있다

한 보고서는 Hugging Face에 비동의 성적 딥페이크를 만드는 이미지 편집 도구들이 널리 올라와 있으며, 여성의 누드화 이미지와 일부 아동으로 보이는 이미지도 포함된다고 지적했다.

유럽 비영리단체 AI Forensics는 테스트한 여러 Space가 옷 입은 여성 사진을 상반신 노출 이미지로 바꿀 수 있었고, 함정 계정 실험에는 여성을 벗기거나 성적 대상화하려는 프롬프트가 대부분이었다고 밝혔다.

WIRED는 누디파이 도구를 홍보하는 페이지와 특정 유명 인사를 성적화할 수 있는 모델들도 발견했다.

Hugging Face는 일부 안전장치가 부족하다는 점을 인정하면서도 테스트 방법의 일부를 반박했고, 문제 해결에 나서고 있다고 밝혔다.