AI가 수형자를 분류하는 시스템이 흑인 수형자들을 부당하게 엄중 경비 시설로 배정했다며 캐나다 온타리오주가 소송을 당했다
Ontario, Canada, is being sued over an AI system that classifies inmates and allegedly funnels Black inmates into maximum-security facilities
TL;DR AI
1분핵심 요약
온타리오주가 2021년부터 수감자 위험도와 보안 등급을 매겨온 AI 도구 SAFER와 관련해 집단소송에 직면했다.
활동가들은 이 시스템이 흑인 수감자를 더 높은 위험으로 과도하게 평가해 더 많은 이들을 최고보안 시설로 보내고 있다고 주장한다.
주정부는 원주민 수감자에 대한 편향 우려는 인정했지만, 흑인 수감자에게는 같은 수준의 보호 조치를 적용하지 않았다.
감독기관과 관계자들은 이 도구의 투명성과 책임성이 부족하다고 지적하며, 형사사법 분야 AI의 위험성을 경고한다.