실제 비즈니스에서 AI 신뢰성을 높여야 하는 필요성에 대응하기

이 글은 비즈니스 환경에서 AI의 신뢰성을 다루며, 환각(hallucination)이 사용자를 오도해 중요한 의사결정에서 큰 손실을 낳을 수 있다고 지적한다.

맨섬(Isle of Man)의 AI 기업 Vertus는 패턴 변화 감지와 근거 없는 추정을 피하도록 설계된 인지 추론 시스템의 2025년 거래 테스트 성과가 긍정적이었다고 밝혔다.

이 시스템은 답을 확신할 수 없을 때 이를 명확히 인정하도록 만들어, 자신 없는 상황에서 억지로 답하지 않도록 한다.

Vertus는 이 접근법을 의료, 과학 연구, 공급망 활용 사례로 확대하고 있다.