양방향 진화적 탐색을 통한 자기 개선 언어 모델

연구진은 언어 모델의 탐색과 생성을 개선하는 새로운 방법인 Bidirectional Evolutionary Search(BES)를 소개했다.

BES는 부분 후보를 진화적으로 재조합하는 방식과, 검증 가능한 하위 목표로 재귀적으로 분해하는 역방향 접근을 결합한다.

저자들은 이 방식이 best-of-N과 트리 탐색의 희소한 피드백과 제한된 탐색 문제를 보완한다고 설명한다.

또한 post-training 과제와 추론 벤치마크에서 성능 향상을 보고하며, 문제 해결과 자기개선에 더 강력한 프레임워크가 될 수 있다고 제시한다.