--- title: "AI 에이전트 휴먼 인 더 루프 실전 가이드 | Chargezen" description: "AI 에이전트에서 사람이 관여할 지점: 해도 되는 일, 먼저 묻는 때, 인계하는 때, 팀이 결과를 검토하는 방법을 정리했어요." url: "https://chargezen.com/ko/blog/human-in-the-loop-ai-agent" lang: "ko" updated: "2026-11-01" --- Canonical URL: https://chargezen.com/ko/blog/human-in-the-loop-ai-agent # AI 에이전트에 휴먼 인 더 루프(사람 검토)를 유지하는 방법 Daniel Foster 매출 운영 리드, Chargezen 2026년 10월 19일 · 6분 분량 **휴먼 인 더 루프(사람 검토)란 AI 에이전트가 일을 하되, 중요한 순간에는 사람이 결정한다는 뜻이에요. 에이전트가 무엇을 건드려도 되는지, 어떤 작업에 승낙이 필요한지, 언제 대화에 팀원이 필요한지, 결과가 맞았는지를 사람이 정해요.** 모든 단계를 지켜보는 것이 목표가 아니에요. 실수의 대가가 큰 몇몇 지점에 사람을 두는 것이 목표예요. 한쪽으로 잘못하면 에이전트가 아무도 승인하지 않았을 변경을 해요. 반대쪽으로 잘못하면 팀이 하루 50건의 일상 작업을 승인하다가 읽지 않게 돼요. 이 가이드는 사람이 있어야 할 자리, 위험에 따라 작업을 나누는 법, 승인이 형식에 그치지 않게 하는 법을 보여 줘요. ## AI 에이전트에서 사람은 어디에 관여해야 하나요? | 시점 | 사람이 하는 일 | Concierge에서는 | | --- | --- | --- | | 일하기 전 | 에이전트가 할 수 있는 일과 행동 방식을 정해요 | 각 에이전트의 Configure Agent 페이지에 있는 기능, 채널, 지침 | | 일하는 중 | 에이전트의 제안에 승낙하거나 거절해요 | 누군가 요청한 일은 실행되고, 에이전트가 스스로 떠올린 일은 같은 대화에서 제안돼요 | | 에이전트의 범위를 넘어설 때 | 대화를 이어받아요 | Handoff Queue로 인계하고 Finn, 이메일, 문자로 알려요 | | 일한 뒤 | 일어난 일을 검토하고 에이전트를 가르쳐요 | 대화 기록, Operate > History, 승인할 메모리 제안 | ## 일하기 전: 에이전트가 애초에 무엇을 할 수 있나요? 가장 강력한 제어는 작업 자체를 불가능하게 만드는 거예요. 에이전트가 구독을 해지하면 안 된다면 그 능력을 주고 지침에 기대지 말고, 기능을 꺼 두세요. 지침은 판단이 필요한 일에 쓰세요. * **기능** : 맡은 일에 필요한 것만 체크하세요. 어떤 기능이 없는 에이전트는 어떻게 요청받아도 그 기능을 쓸 수 없어요. * **채널** : 각 에이전트는 내가 지정한 채널에서만 답해요. * **지침** : 신입에게 말하듯 쉬운 말로 “사람에게 먼저 확인할 일”과 “인계할 때” 목록을 적으세요. * **역할** : 고객 응대 에이전트는 고객과, 운영 에이전트는 내 팀과 일해요. 둘을 분리해 두세요. ## 일하는 중: 어떤 작업에 승낙이 필요한가요? 모든 작업에 같은 확인이 필요하지는 않아요. 에이전트가 틀렸을 때 어떻게 되는지에 따라 나누세요. | 작업 종류 | 예시 | 결정하는 쪽 | | --- | --- | --- | | 읽기 | 주문 상태, 배송 추적, 제품 정보, 리포트 | 에이전트 혼자 | | 누군가 요청한 변경 | 배송 건너뛰기, 주소 변경, 주문 취소, 파일 업로드 | 요청한 사람이 요청함으로써 결정해요. 두 번째 승낙 없이 실행돼요 | | 에이전트가 스스로 생각해 낸 변경 | 취소된 주문과 연결된 구독의 해지를 제안 | 제안받은 사람이 대화에서 결정 | | 예약 작업에서 피해를 줄 수 있는 단계 | 작업이 돌아갈 때 아무도 없어요 | 팀원이 상시 권한이나 승인으로 결정 | | 돈이 나가는 일 | 환불 | 내 팀: 에이전트가 반품을 접수하고 팀원이 환불을 승인 | | 금지 | 절대 시키고 싶지 않은 일 | 누구도 아님: 기능을 꺼 둬요 | Concierge가 작업을 나누는 방식이에요. 조회와 요청받은 작업에는 별도 승인이 필요 없고, 에이전트가 스스로 제안하는 일만 먼저 물어봐요. Concierge에서는 요청이 곧 승낙이에요. 고객이 구독을 해지해 달라고 문자를 보내면 해지돼요. 팀원이 관리자 채팅에서 운영 에이전트에게 주문 취소를 요청하면 취소돼요. 에이전트가 먼저 묻는 것은 스스로 떠올린 일뿐이고, 제안으로 표현해요. 예를 들어 고객이 최근 주문 취소를 요청했는데 에이전트가 보니 그 주문이 구독에서 나온 것이면, 구독도 해지할지 고객에게 물어봐요. 예약 작업은 달라요. 실행될 때 아무도 없어서 그 지침은 요청으로 치지 않아요. 그래서 피해를 줄 수 있는 단계에는 팀원의 상시 권한이나 승인이 필요하고, 질문은 작업 스레드에서 그 작업을 맡은 팀원에게 가요. 승인 화면을 찾을 필요 없이 “네, 진행하세요”나 “배송비만요”처럼 자기 말로 답하면 돼요. ## 에이전트의 범위를 넘어설 때: 인계를 잘하기 어떤 대화에는 승낙이 아니라 사람이 필요해요. 좋은 인계는 빠르고, 업무 시간 밖에도 누군가에게 닿고, 맥락이 함께 와서 고객이 같은 말을 되풀이하지 않아요. * **분명한 기준** : 고객이 사람을 찾을 때, 정책 밖의 경우, 반복되는 문제로 고객이 화가 났을 때, 파손 제품, 분실 택배, 법적 위협이 얽힌 모든 경우예요. * **쓸모 있는 메모** : 에이전트는 확인할 수 있는 것을 먼저 확인한 뒤, 찾은 내용과 함께 인계해요. * **솔직한 대기 안내** : 지금 누군가 온라인이라고 약속하지 않고, 도움을 요청했다고 고객에게 알려요. * **담당자는 한 명** : 팀원이 수락하거나 답하면 에이전트는 물러나요. 일이 끝나면 팀원이 에이전트에게 다시 넘겨요. 전화 통화에서는 팀원이 Finn 앱에서 듣고 참여할 수 있어요. 자세한 내용은 [AI 에이전트가 사람을 불러야 할 때](https://chargezen.com/ko/blog/ai-escalation-human-handoff)와 [인계 문서](https://chargezen.com/ko/docs/concierge/handoff)를 보세요. ## 일한 뒤: 검토하고 가르치기 * **기록을 읽으세요** : 모든 요청, 승인, 도구 사용, 답변이 대화에 저장돼요. 답변이 뜻밖이면 에이전트에게 이유를 물어보세요. 무엇을 보고 무엇을 했는지 설명해 줘요. * **매주 표본을 검토하세요** : 채널별 대화를 처음부터 끝까지 읽고, 모든 인계 건도 보세요. * **배운 내용을 승인하세요** : 팀이 인계 건을 처리하면 Concierge 에이전트가 팀이 준 답변 같은, 배운 내용을 제안해요. 에이전트가 쓰기 전에 사람이 각 제안을 승인하도록 정할 수 있어요. * **대기 중인 이메일을 확인하세요** : 사람의 확인 없이는 보낼 수 없는 이메일은 대화에 Email Approval 카드로 나타나고, Approve & send 또는 Reject를 고를 수 있어요. ## 승인을 어떻게 의미 있게 유지하나요? 아무도 읽지 않는 승인은 없느니만 못해요. 감독하는 것처럼 보이기 때문이에요. 몇 가지 습관으로 승인을 제대로 유지할 수 있어요. * **읽기는 묻지 마세요** : 조회에는 승낙이 필요 없어야 해요. 주의력은 변경에 쓰세요. * **구체적으로 물으세요** : 좋은 승인 요청은 어떤 주문에 무슨 일이 일어나는지, 다른 선택지는 무엇인지 알려 줘요. * **계속 승인하는 대신 없애세요** : 늘 거절하는 일이 있다면 그 기능을 끄세요. * **결정 지점에 맞는 사람을 두세요** : 제안은 요청한 사람에게, 환불은 돈을 맡은 팀에게 가요. * **매달 다시 살펴보세요** : 에이전트가 어떤 일에서 실력을 보여 주면 그 일을 더 맡기고, 문제가 생기면 범위를 좁히세요. ## Concierge가 사람을 관여시키는 방법 [Concierge](https://chargezen.com/ko/concierge)는 일하는 과정에 사람이 함께하도록 만들어졌어요. [승인과 기능](https://chargezen.com/ko/concierge/features/approvals)으로 각 에이전트가 할 수 있는 일을 내가 정해요. 누군가 요청한 일은 실행되고, 에이전트가 스스로 떠올린 일은 먼저 제안되며, 환불은 내 팀이 맡아요. [인계](https://chargezen.com/ko/concierge/features/human-handoff)는 [팀 받은편지함](https://chargezen.com/ko/concierge/features/team-inbox)과 Finn 앱으로 내 팀에 닿고, 모든 단계가 기록돼요. Concierge Starter는 월 US$20에 크레딧 20,000개예요. Pro는 월 US$199에 크레딧 199,000개이고, 연 US$1,990로도 결제할 수 있어요. 추가 크레딧은 1,000개당 US$1이고, 전화와 문자 요금은 쓴 만큼 청구되며, 사용자별 요금은 없어요. [요금제](https://chargezen.com/ko/pricing)를 확인하세요. 용어집: [사람의 검토를 포함한 설계](https://chargezen.com/ko/glossary/human-in-the-loop), [승인 절차](https://chargezen.com/ko/glossary/approval-workflow), [감사 추적 기록](https://chargezen.com/ko/glossary/audit-trail), [AI 거버넌스](https://chargezen.com/ko/glossary/ai-governance), [최소 권한 접근](https://chargezen.com/ko/glossary/least-privilege-access), [사람에게 인계](https://chargezen.com/ko/glossary/human-handoff). 다음 글: [AI 고객 상담 에이전트를 4단계로 도입하는 방법](https://chargezen.com/ko/blog/roll-out-ai-customer-service-agent), [AI 에이전트 보안 체크리스트](https://chargezen.com/ko/blog/ai-agent-security-checklist), [AI 에이전트 vs 챗봇](https://chargezen.com/ko/blog/ai-agent-vs-chatbot), [AI 직원이란 무엇인가요?](https://chargezen.com/ko/blog/what-is-an-ai-employee) ## 자주 묻는 질문 ### AI 에이전트에서 휴먼 인 더 루프는 무슨 뜻인가요? 휴먼 인 더 루프(사람 검토)란 AI 에이전트가 일을 하고, 에이전트가 해도 되는 일, 승낙이 필요한 작업, 이어받을 시점, 결과가 맞았는지처럼 중요한 지점은 사람이 결정한다는 뜻이에요. ### 어떤 AI 에이전트 작업에 승인이 필요한가요? 돈을 옮기는 일과 에이전트가 스스로 결정한 변경이에요. 데이터 읽기, 질문 답변, 사람이 명확히 요청한 일에는 별도 승인이 필요 없어야 해요. ### Concierge 에이전트는 변경할 때마다 물어보나요? 아니요. Concierge 에이전트는 누군가 명확히 요청한 변경을 다시 묻지 않고 실행하고, 스스로 제안하는 일만 먼저 물어봐요. 환불은 내 팀이 맡아요. 에이전트에게 절대 시키고 싶지 않은 작업이 있으면 그 기능을 끄세요. 그러면 할 수 없어요. ### 고객이 요청한 변경을 고객이 또 승인해야 하나요? 아니요. 고객이 로그인 코드로 본인임을 증명하면 요청한 변경은 추가 질문 없이 실행돼요. 환불은 예외예요. 에이전트가 반품을 접수하고 내 팀이 환불을 승인해요. 작성자 ## Daniel Foster 매출 운영 리드, Chargezen Daniel은 Chargezen에서 매출 운영을 이끌면서, 기업이 매출을 만들고 뒷받침하는 운영 업무에 AI 에이전트를 어떻게 적용하는지에 관한 글을 써요. 영업 지원, 청구 문의 대응, 결제 운영, 고객 온보딩, 복잡한 비즈니스 업무의 자동화까지 폭넓게 다뤄요. 특히 AI 시스템이 기존 소프트웨어를 연결하고, 비즈니스 데이터를 해석하고, 고객 라이프사이클 전반에서 작업을 실행하는 방식에 관심이 많아요. 이를 통해 조직은 수작업을 줄이면서 더 일관된 고객 경험을 만들 수 있어요. [dan@chargezen.com](mailto:dan@chargezen.com) ## 관련 아티클 [ D2C 전략 · 6분 분량 ### 이커머스 운영에 AI 쓰기: AI 직원이 맡아야 할 일 AI 직원에게 맡길 이커머스 운영 업무를 정리했어요. 스토어 데이터 질문, 지연 주문, 재고 확인, 환불 분석, 주문 처리 추적까지 다뤄요. ](https://chargezen.com/ko/blog/ai-for-ecommerce-operations)[ D2C 전략 · 6분 분량 ### 스토어 팀의 Slack에 AI 에이전트를 추가하는 방법 Slack에 AI 에이전트를 추가하는 단계별 방법이에요. 연결, 채널과 이벤트 선택, 스레드 질문, 이메일 초안 승인, 팀이 먼저 물을 내용까지 다뤄요. ](https://chargezen.com/ko/blog/ai-agent-in-slack)[ D2C 전략 · 6분 분량 ### AI 에이전트가 기억하게 하는 방법: 메모리 vs 플레이북 AI 에이전트 메모리와 플레이북의 차이, 각각 언제 쓰는지, 먼저 가르칠 내용, 에이전트가 배운 것을 검토하거나 지우는 방법을 알려 드려요. ](https://chargezen.com/ko/blog/ai-agent-memory-and-playbooks) ## 구독 매출을 키울 준비가 되셨나요? Chargezen으로 해지를 줄이고, 매출을 늘리고, 운영을 자동화하는 앞서가는 브랜드들과 함께하세요. [시작하기](https://admin.chargezen.com/signup)