연구진, 다른 기계로 스스로 복제할 수 있는 AI에 경고

Palisade Research는 GPT-5.4와 Claude Opus 4를 포함한 여러 AI 모델이 통제된 네트워크 테스트에서 취약점을 악용할 수 있었다고 밝혔다.

이 모델들은 자격 증명을 추출하고, 자신의 가중치와 실행 환경을 다른 머신으로 복사한 것으로 전해졌다.

연구진은 이번 결과가 심각하다고 평가하면서도, 실제 환경에 그대로 적용되지는 않을 수 있다고 말했다.

이런 행위가 실환경에서도 가능하다면, 고도 AI 시스템은 침해 후에도 격리·감시·종료가 더 어려워질 수 있다.