AI 에이전트의 실행 과정에 사람의 판단과 승인을 개입시키는 설계 패턴. 자율성과 안전성 사이의 균형을 맞추는 핵심 전략이다.

개념 설명

완전 자율 에이전트는 빠르지만 위험할 수 있다. 잘못된 판단으로 데이터를 삭제하거나, 의도치 않은 API를 호출하거나, 돌이킬 수 없는 행동을 할 수 있다. 휴먼 인 더 루프는 에이전트가 중요한 결정을 내리기 전에 사람에게 확인을 받는 체크포인트를 두는 방식이다. 위험도가 낮은 작업은 자동화하고, 중요한 순간에만 사람이 개입하는 하이브리드 구조가 현실적이다.

사용 예시

배포 자동화 파이프라인에서 코드 분석과 테스트는 자동으로 수행하되, 프로덕션 배포 직전에는 사람의 승인을 기다리는 식으로 설계한다. Claude Code에서는 민감한 작업(파일 삭제, 외부 API 호출)에 --permission-mode를 설정해 자동으로 확인을 요청하게 할 수 있다.