앤트그룹, 에이전트와 멀티모달 시스템용 AI 안전 모델 공개
Ant Group unveils AI safety models for agents and multimodal systems
TL;DR AI
1분핵심 요약
앤트그룹 AI Safety Lab은 자율 에이전트를 위한 가드레일 모델 SingGuard-NSFA를 오픈소스로 공개했다.
이 모델은 에이전트가 행동하기 전에 프롬프트 인젝션, 데이터 탈취, 악성 코드 실행, 자원 남용, 권한 오남용을 탐지하도록 설계됐다.
앤트그룹은 멀티모달 안전 모델인 SingGuard에 대한 추가 정보도 공개했다.
이번 공개는 AI 에이전트의 자율성이 높아질수록 사전 차단형 안전장치의 중요성이 커지고 있음을 보여준다.