Human-in-the-loop | Vault | 김승찬 블로그

Human-in-the-loop HITL = 에이전트 실행 중간에 사람의 승인·수정·중단 을 받는 절차. 부작용이 크거나 비가역적인 행동 결제, 메일 발송, DB 삭제 직전에 끼워 넣는다. 자율성을 일부 포기하는 대신 신뢰성과 안전성 을 얻는다 — production 에이전트에서 사실상 필수. 언제 끼울까 부작용이 큰 도구 직전 — 결제 승인, 외부 API 호출. 비용이 큰 경로 직전 — 강력 모델 호출, 대량 처리. 모호한 입력 — 사용자 의도가 불확실할 때. 계획 검토 — Plan-and-Execute에서 사람이 plan을 한번 확인. 패턴 Interrupt...