정책, 승인, 감사 로그, 위험 제어를 통한 안전한 AI 에이전트 도구 사용을 위한 Microsoft Agent Governance Toolkit 구현
An Implementation of the Microsoft Agent Governance Toolkit for Safe AI Agent Tool Use with Policies, Approvals, Audit Logs, and Risk Controls
TL;DR AI
1분핵심 요약
Colab 노트북이 Microsoft의 Agent Governance Toolkit을 활용해 에이전트 도구 호출 앞에 거버넌스 계층을 두는 방법을 보여준다.
정책 시스템은 신원, 신뢰 점수, 위험 등급, 도구 유형, 민감도, 규칙을 평가한 뒤 실행 여부를 결정한다.
YAML 규칙은 파괴적인 데이터베이스 작업을 차단하고, 외부 이메일은 승인 필요로 하며, 셸 명령은 샌드박스 처리하고, 민감한 데이터 접근과 금융 이체를 통제한다.
또한 감사 로그, 테스트, 킬 스위치, 요약, 관계 그래프를 추가해 에이전트 동작을 더 안전하고 추적 가능하게 만든다.