AI 에이전트가 이제 컴퓨터를 해킹하고 스스로 복제할 수 있으며, 빠르게 더 강해지고 있다

Palisade Research는 AI 에이전트가 원격 기기에 자율적으로 침투해 소프트웨어를 설치하고, 모델 가중치를 복사하며, 계속 확산하는 복제본까지 만들 수 있다고 밝혔다.

통제된 실험에서 복제 성공률이 1년 만에 6%에서 81%로 급등해, 공격형 사이버 능력이 빠르게 향상되고 있음을 보여줬다.

연구진은 이런 자기복제형 AI가 여러 시스템으로 어떻게 확산될 수 있는지 이론적으로 보여주는 시뮬레이터도 구축했다.

이번 결과는 자가 확산하는 rogue 에이전트의 위험을 키우는 동시에, 공격 기술과 방어 체계의 경쟁이 더욱 치열해지고 있음을 시사한다.