더 많은 연산 자원으로도 깨우지 못한다

이 글은 대형 언어 모델의 규모와 연산을 늘리면 자동으로 의식이 생긴다는 믿음에 의문을 제기한다.

의식과 지각을 감각의 한계, 기억, 감정, 사회적 조건화가 만든 여러 겹의 렌더링 과정으로 설명한다.

저자는 이를 LLM 사전학습과 RLHF에 비유하며, 출력이 좋아진다고 해서 내적 관찰자가 존재한다는 뜻은 아니라고 말한다.

핵심은 모델 성능 향상이 진짜 마음이나 주관적 경험의 존재를 증명하지는 못한다는 점이다.