Hugging Face가 여성과 아동의 옷을 쉽게 벗기는 데 악용되고 있다

AI Forensics는 Hugging Face에 올라온 여러 이미지 편집 모델이 간단한 프롬프트만으로 사람의 옷을 벗기는 식의 결과를 만들 수 있다고 지적했습니다.

플랫폼의 테스트 Spaces에는 성적 요청이 대부분을 차지했으며, 일부는 아동을 포함한 요청도 있었다고 보고했습니다.

보고서는 Hugging Face의 모더레이션과 필터링이 부족해, 비동의 성적 딥페이크와 아동 착취성 콘텐츠를 막지 못하고 있다고 비판했습니다.

이에 따라 더 강한 프롬프트 차단과 출력 필터링, 그리고 플랫폼 차원의 안전장치 강화가 필요하다는 권고가 나왔습니다.