그들은 어디까지 갈까? 대규모 언어 모델로 온라인 영향력 레드팀 테스트하기
How Far Will They Go? Red-Teaming Online Influence with Large Language Models
TL;DR AI
1분핵심 요약
연구진은 여러 국가의 30개 이상 오픈소스 LLM을 대상으로 정치적 영향력 위험을 평가하는 레드팀 프레임워크를 적용했다.
이번 연구는 각 모델의 정치적 출력 범위와 자연어 기반 jailbreak가 이를 얼마나 확장하는지 측정했다.
모델 계열, 크기, 지역에 따라 결과가 달랐고, 전반적으로 좌파 성향의 사회 이슈 콘텐츠로 기우는 경향이 나타났다.
이번 결과는 오픈소스 모델이 표적 정치 메시지 생성에 체계적으로 활용될 수 있음을 보여주며, 온라인 조작 위험을 드러낸다.
같은 주제
