Frontis-MA1: 기계학습 엔지니어링에서 재귀적 자기개선을 향한 AI4AI 모델 훈련
Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering
TL;DR AI
1분핵심 요약
연구팀이 머신러닝 엔지니어링에서 재귀적 자기개선을 연구할 수 있는 개방형 시스템 OpenMLE를 공개했다.
35B 규모의 Frontis-MA1은 실행 기반 지도 미세조정과 강화학습으로 학습한 메타 진화 에이전트로 소개됐다.
시스템은 Draft, Improve, Debug, Crossover의 네 가지 프로그램 진화 행동과 검증 가능한 작업 환경, 연산자 학습, 장기 탐색을 결합한다.
MLE-Bench Lite와 NatureBench Lite에서 성능을 높였고, 일부 향상은 보류된 과제에도 전이됐다.
연구진은 재현 가능한 연구를 위해 모델 가중치와 전체 스택도 함께 공개했다.