
AI 자동화를 시작할 때는 보통 성공하는 장면부터 그립니다. 자료가 들어오고, AI가 정리하고, 결과가 다음 사람에게 전달되는 흐름입니다. 그런데 실제 업무에서 사고가 나는 지점은 정상적으로 흘러갈 때보다 입력이 비어 있거나, 결과가 애매하거나, 외부로 보내도 되는지 판단하기 어려울 때입니다.
저희가 업무 자동화를 운영하며 반복해서 확인한 것도 이 부분입니다. 한 번은 편집기 화면에 발행 버튼이 분명히 보였는데, 준비 상태를 확인하는 검사기가 그 버튼을 찾지 못했습니다. 첫 판정을 그대로 믿으면 로그인 문제로 오해하고 같은 작업을 다시 보낼 수 있는 상황이었습니다. 화면·검사기·원격 상태를 나눠 확인하고 나서야 실제 원인이 검사 조건에 있다는 것을 알 수 있었습니다.
이 글은 특정 고객사의 성과를 소개하는 글이 아닙니다. 자동화를 설계할 때 성공 경로만 만들지 않고, 언제 멈추고 누구에게 넘기며 어떻게 다시 시작할지를 먼저 정하는 실무 제안입니다.

업무 담당자는 “이 일이 자동으로 끝났으면 좋겠다”고 말하지만, 자동화가 실제로 필요한 것은 끝까지 달리는 프로그램이 아닙니다. 입력이 충분할 때는 빠르게 진행하고, 애매한 순간에는 더 큰 실수를 만들기 전에 멈추는 흐름입니다.
예를 들어 문의 메일을 분류하는 자동화를 생각해 보겠습니다. 제목과 본문이 모두 있고 담당 부서가 명확하면 분류를 진행할 수 있습니다. 반대로 첨부 파일이 빠졌거나 고객의 의도가 두 가지로 해석되면, AI가 임의로 답을 만들어 보내는 대신 확인 필요 상태로 남겨야 합니다. 이 한 줄이 없으면 자동화는 “처리하지 못함”을 숨기기 위해 그럴듯한 결과를 만들어낼 가능성이 커집니다.
따라서 업무를 맡길 때는 “무엇을 자동화할까?”와 함께 아래 질문을 적어야 합니다.
이 질문에 답하지 않은 자동화는 속도만 높이고 책임은 가립니다.

저희는 자동화를 설계할 때 중단 조건을 다음 네 칸으로 나눠 적습니다. 제품 기능표를 설명하는 대신 업무 책임을 확인하는 표입니다.
| 구분 | 멈춰야 하는 신호 | 다음 담당자에게 넘길 정보 |
|---|---|---|
| 입력 | 필수 자료·권한·식별자가 비어 있음 | 빠진 자료와 요청할 사람 |
| 결과 | 근거가 없거나 서로 다른 답이 함께 나옴 | 확인이 필요한 문장과 원문 위치 |
| 행동 | 외부 발송·금액 변경·일정 확정처럼 되돌리기 어려움 | 승인자와 승인 전 미리보기 |
| 재개 | 이전 단계가 끝났는지 확인할 수 없음 | 마지막 성공 단계와 재시도 금지 범위 |
이 표의 목적은 모든 예외를 미리 맞히는 데 있지 않습니다. 처음 발견한 예외가 생겼을 때 “AI가 알아서 처리하겠지”라고 넘기지 않고, 사람에게 전달할 수 있는 상태로 만드는 데 있습니다. 중단 사유와 다음 행동이 남아 있으면 개선할 자료도 생깁니다.

자동화가 멈췄을 때 “모델이 틀렸다”고 결론내리면 다음 개선도 프롬프트 수정으로 좁아집니다. 하지만 실제 원인은 서로 다른 세 가지 중 하나인 경우가 많습니다.
첫째, 입력이 부족한데 시작시켰을 수 있습니다. 둘째, 결과를 통과시킬 기준이 없었을 수 있습니다. 셋째, 검사기는 통과했지만 마지막 행동의 책임자가 정해지지 않았을 수 있습니다. 이 셋을 구분하지 않으면 같은 작업을 반복 실행하거나, 반대로 사람이 처음부터 다시 처리하게 됩니다.
앞서 말씀드린 발행 점검에서도 화면에는 준비된 신호가 있었지만 검사기가 그 신호를 읽는 방식이 현재 편집기와 맞지 않았습니다. 로그인 세션을 계속 바꾸는 대신, 화면에서 보이는 요소·검사기가 읽은 값·실제로 공개된 결과를 각각 확인했습니다. 그 뒤 검사 조건을 보강하고 같은 단계만 다시 확인했습니다. 이미 끝난 작업을 새로 만드는 것보다, 어느 신호가 어긋났는지 좁히는 편이 안전했습니다.
그래서 예외 기록에는 최소한 다음 세 가지를 따로 남기는 것이 좋습니다.
이 구분은 AI를 믿지 말자는 뜻이 아닙니다. AI의 출력과 업무의 완료를 같은 것으로 취급하지 말자는 뜻입니다.

미국 국립표준기술연구소(NIST)의 AI Risk Management Framework 1.0은 AI 위험관리를 Govern, Map, Measure, Manage 네 기능으로 정리합니다. 이 프레임워크는 자율적으로 적용할 수 있는 안내이며, 모든 조직이 그대로 따라야 하는 체크리스트는 아닙니다.
이 네 단어를 현업의 중단 조건으로 번역하면 다음처럼 쓸 수 있습니다.
네 기능은 문서에 적어 두는 데서 끝내지 말고 실제 업무 카드나 자동화 로그에 바로 넣을 수 있는 문장으로 바꿔야 합니다. 예를 들어 “고객에게 보내는 답장은 승인 전까지 초안 상태를 유지한다”, “첨부 파일이 없으면 분류만 하고 담당자에게 보류한다”처럼 적으면 사람과 도구가 같은 기준을 볼 수 있습니다.

첫 실험부터 모든 데이터와 사용자를 연결할 필요는 없습니다. 이미 처리가 끝난 자료나 내부 테스트 입력 몇 건을 골라 다음 순서로 확인해 보세요.
여기서 시간을 얼마나 줄였는지만 보지 말고, 사람이 어떤 이유로 다시 확인했는지를 적어야 합니다. 예외가 같은 칸에서 반복되면 그 칸이 다음 설계의 우선순위가 됩니다. 반대로 매번 다른 이유로 멈춘다면 도구를 추가하기 전에 업무 입력부터 정리해야 합니다.
작은 실험의 산출물은 거창한 보고서가 아닙니다. 통과 기준, 보류 사유, 마지막 성공 단계, 다음 담당자 네 줄이면 충분합니다. 이 기록이 있어야 실패한 작업을 처음부터 다시 만들지 않고, 확인된 지점부터 이어갈 수 있습니다.

AI/AX 컨설팅에서 저희가 먼저 함께 만드는 것은 특정 도구의 사용법이 아닙니다. 현재 업무가 어디에서 멈추고, 그때 누가 판단하며, 무엇이 남아야 다시 시작할 수 있는지를 한 장의 표로 정리하는 일입니다.
진행 순서는 보통 다음과 같습니다.
이 과정은 AI 도입을 늦추기 위한 절차가 아닙니다. 무엇을 자동화해도 되는지, 무엇은 사람의 승인으로 남겨야 하는지 빠르게 합의하기 위한 절차입니다. 업무명·반복 빈도·가장 자주 멈추는 단계만 정리해 오시면, 현재 입력과 검수 기준부터 함께 살펴볼 수 있습니다.
AI 자동화를 붙였는데 예외가 생길 때마다 처음부터 다시 처리하거나, 어디에서 사람에게 넘겨야 할지 모호하다면 업무명·반복 빈도·가장 자주 멈추는 단계만 정리해 보세요. 입력 자료, 중단 조건, 작은 검증 범위를 함께 설계할 수 있습니다.