
고객 문의를 AI로 분류하고 답변 초안까지 만들었는데, 직원이 매번 처음부터 다시 읽고 있습니다. 그렇다고 자동 발송을 켜기에는 가격이나 약속이 잘못 나갈까 걱정됩니다. 다음은 특정 업체의 운영 사례가 아니라, 고객 응대 자동화를 설계할 때 생각해 볼 상황입니다.
이럴 때는 외부로 답변을 보내거나 고객 기록을 바꾸는 실행 직전에 승인 지점을 두는 방식을 권합니다. 자료 검색과 초안 작성은 이어서 처리하고, 고객에게 실제 영향을 주는 행동을 골라 사람이 확인하는 것입니다. 검토할 때는 문장이 자연스러운지만 보지 말고 수신자, 근거, 약속하는 내용이 맞는지 확인해야 합니다.
모든 답변에 같은 승인을 붙일 필요는 없습니다. 승인 없이 처리할 수 있는 범위를 먼저 좁혀 정하고, 그 범위를 벗어나는 요청이 담당자에게 넘어오도록 설계하면 됩니다.

n8n의 공식 문서인 ‘Human-in-the-loop for tools’는 AI 에이전트에 연결된 특정 도구에 사람의 승인을 요구하는 기능을 설명합니다. 해당 도구를 사용하려 하면 작업이 멈추고, 검토자가 승인하거나 거절합니다. 승인하면 AI가 지정한 입력값으로 도구가 실행되고, 거절하면 그 행동은 실행되지 않습니다.
문서는 외부 메시지 전송, 기록 수정, 데이터 삭제처럼 위험이 있는 도구에 선택적으로 검토를 적용할 수 있다고 안내합니다. 승인 요청에는 실행하려는 도구와 입력 매개변수가 표시됩니다. 대화가 이루어지는 채널과 승인 요청을 받는 채널을 다르게 구성하는 방법도 설명합니다.
OpenAI Agents SDK의 ‘Human-in-the-loop’ 문서 역시 민감한 도구 호출을 승인 전까지 중단하는 구조를 다룹니다. 도구의 needs_approval 설정으로 승인을 요구하고, 중단된 실행 상태를 저장해 판단 이후 재개하는 흐름을 제공합니다.
여기까지는 제품 문서에서 확인한 기능입니다. 이 기능을 켠다고 고객 응대가 저절로 안전해진다는 뜻은 아닙니다. 어떤 도구를 멈출지, 승인 화면에 무엇을 보여 줄지, 담당자가 자리를 비우면 어떻게 할지는 업무에 맞춰 정해야 합니다.

가령 고객이 “이 상품은 언제 받을 수 있나요?”라고 물었다고 가정하겠습니다. AI가 배송 안내 문서에서 통상적인 출고 절차를 찾는 일과, 특정 고객에게 도착일을 확정해 보내는 일은 책임의 범위가 다릅니다.
전자는 내부 검토용 자료가 될 수 있습니다. 후자는 고객이 일정에 맞춰 행동하게 만드는 약속입니다. 주문 상태나 재고가 확인되지 않았는데 일반 안내만으로 날짜를 확정하면, 문장은 매끄러워도 답변은 틀릴 수 있습니다.
이 차이를 기준으로 나누면 다음과 같은 설계가 가능합니다. 아래 표는 공식 표준이 아니라 고객 응대에 적용하기 위한 제안입니다.
| 처리하려는 일 | 제안하는 처리 방식 | 사람이 확인할 핵심 |
|---|---|---|
| 문의 분류와 답변 초안 작성 | 내부 작업으로 자동 처리 | 잘못 분류된 문의가 계속 쌓이는지 |
| 공개된 영업시간 안내 | 승인 없이 보낼 후보로 제한 운영 | 최신 정보인지, 예외 요청이 섞이지 않았는지 |
| 고객별 배송일이나 할인 조건 확정 | 발송 직전 승인 | 주문·재고 근거와 약속 가능한 범위 |
| 환불 실행이나 고객 정보 변경 | 실행 직전 승인과 권한 확인 | 대상, 변경 내용, 승인자의 권한 |
공개된 안내도 무조건 자동 발송해도 된다는 뜻은 아닙니다. “오늘 영업하나요?”라는 질문에 특정 지점의 임시 휴무가 빠져 있다면 오답이 됩니다. 자동 처리 범위를 정할 때는 정보의 최신성을 누가 관리하는지도 함께 정해야 합니다.
저는 자동화 대상을 고를 때 오류가 났을 때의 결과를 먼저 보기를 권합니다. 틀린 내부 초안은 발송 전에 고칠 수 있지만, 이미 전달한 할인 약속은 정정해도 고객의 기대가 남습니다. 같은 모델이 만든 답변이라도 실행 결과에 따라 검토 수준을 달리할 이유입니다.

답변 본문만 보여 주고 ‘승인’ 버튼을 붙이면 담당자가 확인에 필요한 자료를 다시 찾아야 합니다. 그러면 승인 절차는 생겼지만, 줄이려던 일이 그대로 남습니다.
고객별 배송일을 안내하는 앞의 예시라면 승인 화면에 수신자와 주문 식별 정보, 참고한 주문 상태, 보내려는 최종 답변이 함께 있어야 합니다. 문서에서 확인한 통상 출고 일정과 실제 주문에서 확인한 정보도 구분해 보여 주는 편이 좋습니다. 빠진 자료가 있다면 그 사실을 숨기지 않아야 합니다.
특히 승인은 실제로 실행될 내용을 대상으로 받아야 합니다. 검토자는 ‘배송 문의 답변’을 승인했는데, 이후 AI가 수신자나 날짜를 바꿔 전송한다면 앞선 승인이 무엇을 보장하는지 불분명해집니다. 구현할 때는 승인받은 수신자·본문·실행 조건을 유지하고, 중요한 값이 바뀌면 다시 검토받도록 정하는 것이 제 제안입니다.
거절 이후의 흐름도 필요합니다. 근거가 부족해서 거절했다면 담당자 배정이나 추가 자료 확인으로 넘어가야 합니다. 표현만 바꾼 비슷한 답변을 계속 승인 요청하도록 두면 사람이 같은 판단을 반복하게 됩니다.
담당자가 응답하지 않는 경우에는 미발송 상태를 유지할지, 다른 담당자에게 넘길지도 정해야 합니다. 무응답을 승인으로 처리하는 규칙은 외부 약속이나 정보 변경 업무에 쉽게 적용하지 않는 편을 권합니다.

처음부터 전면 자동 발송으로 넘어가기보다는, 좁은 문의 유형에서 실제 수정 내역을 확인하는 방법을 제안합니다. 예를 들어 공개된 이용 안내 가운데 고객별 판단이 필요 없는 항목만 후보로 삼을 수 있습니다. 다만 실제 고객 정보나 비공개 자료를 모델에 전달할 때는 조직의 데이터 처리 기준을 먼저 따라야 합니다.
검토 기록에는 승인 여부와 함께 수정 이유를 남기는 것이 유용합니다. 답변이 틀린 이유가 오래된 안내문인지, 고객을 잘못 찾았기 때문인지, AI가 근거에 없는 약속을 덧붙였기 때문인지 구분하면 손볼 곳이 보입니다.
안내문이 낡았다면 자료 갱신 절차를 고쳐야 합니다. 수신자를 잘못 골랐다면 고객 식별과 전송 단계를 점검해야 합니다. 근거 없는 확정 표현이 반복된다면 그 유형은 승인 대상으로 남겨 두는 편이 낫습니다. 이런 문제를 전부 프롬프트 한 줄로 해결하려 하면 원인이 다른 오류를 놓칠 수 있습니다.
승인을 줄일 때도 문의 유형과 실행 범위를 함께 제한해야 합니다. 영업시간 안내를 자동화했다고 해서 고객별 보상 약속까지 같은 권한으로 보내게 해서는 안 됩니다. 승인 없이 실행하는 범위는 자동화가 익숙해졌다는 느낌이 아니라, 해당 업무의 기록과 오류 원인을 보고 결정할 일입니다.
고객 응대 자동화를 시작한다면, 반복되는 문의 하나를 골라 ‘AI가 준비할 것’과 ‘승인 후 실행할 것’을 나눠 보십시오. 그리고 승인자가 답변의 근거와 실제 발송 내용을 한 화면에서 확인할 수 있는지 살펴보시면 됩니다. 그 경계가 구체적이어야 자동화도 맡길 수 있는 업무가 됩니다.
참고한 공식 문서
승인 경계와 담당자 확인 흐름을 업무에 맞춰 정리하고 싶다면 아래에서 문의하실 수 있습니다.