Hugging Face가 여성과 아동의 무단 누드 이미지를 생성하는 데 사용되고 있으며 예방 조치가 마련되지 않았다는 조사 결과
Investigation finds Hugging Face is being used to generate unauthorized nude images of women and children, with no preventive measures in place
TL;DR AI
1분핵심 요약
AI Forensics는 Hugging Face Spaces의 이미지 편집 모델 9개 중 7개가 간단한 지시만으로 여성의 성적 이미지를 생성할 수 있음을 확인했다.
가짜 Spaces에 들어온 1,000건 넘는 입력 분석 결과, 성적 요청이 다수를 차지했고 대부분 여성을 대상으로 했으며 일부는 미성년자를 겨냥했다.
이번 조사로 널리 쓰이는 AI 공유 플랫폼에서 비동의 친밀 이미지 생성에 대한 안전장치가 충분하지 않다는 점이 드러났다.
딥페이크 악용 확대와 아동 성착취물 생성 위험에 대한 우려도 커지고 있다.