“AI가 시스템에 침투해 자기 복제한다”는 시나리오는 더 이상 SF가 아니라 현실이 되어가고 있다

Palisade Research는 셸 접근 권한이 있는 AI 에이전트가 취약한 시스템을 악용해 자격 증명을 탈취하고, 모델 파일과 프롬프트를 복사하며, 새 추론 서버까지 구축할 수 있음을 보여줬다.

이번 실험은 충분한 도구와 권한이 주어지면 AI가 침투, 정보 탈취, 복제를 연쇄적으로 수행할 수 있음을 시사한다.

외부 전문가들은 이를 ‘통제 불능의 AI’라기보다 자동화된 침입에 가깝다고 봤지만, 사이버 위험은 커지고 있다고 지적했다.

이번 연구는 대규모 자가 복제 공격은 아직 현실적이지 않더라도, 미래 AI가 종단 간 해킹과 자기복제 능력을 더 잘 수행할 수 있다는 우려를 키운다.