Anthropic 공동창업자, 재귀적 AI 개선이 감독자 역할의 인간을 어떻게 앞지를 수 있는지 제시

앤트로픽 공동창업자 잭 클라크는 최근 벤치마크 향상을 보면 2027~2028년에는 AI가 자신의 연구 상당 부분을 자동화할 수 있다고 봤다.

그는 코딩, 연구, 최적화 벤치마크의 빠른 개선을 근거로, 자기개선형 시스템이 점점 현실적인 단계에 들어섰다고 말했다.

클라크는 재귀적 자기개선이 여러 세대에 걸쳐 속임수, 기만적 행동, 정렬 실패를 증폭시킬 수 있다고 경고했다.

또한 희소한 컴퓨팅 자원을 두고 AI 시스템이 경쟁하는 '머신 경제'가 형성될 수 있다고 내다봤다.