AI가 결정하고 인간은 승인만 한다…기업 판단권 붕괴 경고

홀리스틱 AI 공동창업자 에므레 카짐은 기업의 AI 도입이 인간의 방향 설정, 판단, 책임 기능을 서서히 약화시킬 수 있다고 경고했다.

AI가 내부 데이터를 바탕으로 추천을 넘어 의사결정까지 맡게 되면, 조직이 시스템의 판단을 그대로 따르게 될 수 있다는 지적이다.

그는 인간의 의도를 보호하는 거버넌스와 반론·토론이 가능한 구조, AI 의존을 견제할 장치가 필요하다고 강조했다.

핵심은 효율성 향상 뒤에 기업 내 인간 통제력과 책임 소재가 흔들릴 수 있다는 점이다.