
월요일 운영회의에서 수요 예측 그래프가 지난달보다 자주 빗나갑니다. 개발팀은 모델을 다시 학습하자고 하고, 현업은 신규 상품과 프로모션이 늘었다고 말합니다. 그런데 두 팀 모두 “무엇이 바뀌었는지”를 같은 표로 보고 있지는 않습니다.
이 장면은 특정 고객의 실제 장애가 아니라, 예측 AI를 운영할 때 생길 수 있는 가상 예시입니다. 예측이 어긋났을 때 모델부터 고치는 습관은 입력 조건이 달라진 문제를 모델의 문제로 오해하게 만들 수 있습니다. 먼저 학습할 때의 데이터와 지금 들어오는 데이터가 같은 종류인지, 시간이 지나며 분포가 달라졌는지를 확인해야 합니다.
Google Cloud의 모델 모니터링 문서는 학습 데이터와 서빙 데이터의 차이를 data skew(데이터 스큐)로, 시간에 따른 서빙 데이터 분포 변화를 data drift(데이터 드리프트)로 설명합니다. 모델이 바뀌지 않아도 입력 분포가 달라지면 성능이 떨어질 수 있고, 학습 데이터와 현재 데이터를 비교하는 점검이 필요하다는 내용입니다.
NIST AI RMF Core도 AI 시스템을 맥락에 맞게 정의하고(Map), 불확실성과 성능을 측정하고(Measure), 위험과 대응을 관리하는(Manage) 흐름으로 정리합니다. 이 원칙이 모든 예측 문제의 정답을 주는 것은 아니지만, “모델을 다시 돌리자”보다 먼저 운영 맥락과 측정 기준을 잠그라는 출발점이 됩니다.

예측이 빗나간 날의 실제값과 예측값만 비교하면 원인을 찾기 어렵습니다. 먼저 모델이 학습할 때 사용한 입력의 기준선을 남겨야 합니다.
이 표는 모델의 정확도 점수가 아니라 모델이 기대한 업무 조건의 기록입니다. 예를 들어 학습 때는 기존 상품의 주간 판매량이 대부분이었는데 지금은 신상품의 일별 주문이 절반을 차지한다면, 같은 숫자 열이라도 같은 문제를 풀고 있다고 보기 어렵습니다.
이 기준선을 만들 때 처음부터 모든 변수를 완벽하게 정리할 필요는 없습니다. 예측 결과에 직접 영향을 주는 핵심 입력 다섯 개 안팎을 먼저 고르고, 담당자가 “이 값이 바뀌면 모델이 낯선 상황을 보는 것”이라고 설명할 수 있으면 됩니다. 어떤 값을 고를지 합의되지 않는다면 아직 모델보다 업무 정의가 먼저인 상태입니다.

학습 데이터와 현재 데이터의 차이와, 현재 데이터가 시간에 따라 변하는 현상은 서로 다른 질문입니다.
Google Cloud 문서가 설명하듯 스큐와 드리프트는 데이터 분포를 비교하는 신호입니다. 그 신호가 곧바로 “모델을 재학습하라”는 결론은 아닙니다. 데이터 파이프라인 오류인지, 실제 사업 정책이 바뀐 것인지, 계절적 변동인지에 따라 대응이 달라집니다.
따라서 알림을 만들 때 “드리프트 발생”만 보내지 말고, 함께 읽을 업무 맥락을 붙입니다. 예를 들어 특정 지역의 주문 비중이 갑자기 커졌다면 영업 확장인지 집계 오류인지 확인할 담당자와 원문 로그를 연결합니다. 분포 변화의 원인을 읽을 수 없는 알림은 숫자를 하나 더 보여 줄 뿐입니다.

입력 분포가 바뀌었다고 해서 예측을 전부 폐기하거나, 반대로 그대로 실행하는 두 선택지만 있는 것은 아닙니다. 업무 영향에 따라 사용 권한을 단계로 나눌 수 있습니다.
이 구분은 모델이 항상 맞는지 판단하는 장치가 아니라, 틀렸을 때 조직이 감당할 수 있는 범위를 정하는 장치입니다. 예측이 납기 약속·재고 구매·고객에게 보이는 가격처럼 외부 영향을 만들면 자동 실행보다 추천 단계로 시작하는 편이 안전할 수 있습니다. 반대로 내부 정렬용 초안이라면 입력 조건을 기록하는 것을 전제로 더 빠르게 실험할 수 있습니다.

처음부터 새 모델을 만드는 대신, 다음과 같은 짧은 검증을 제안할 수 있습니다. 아래 기간과 표본 수는 모든 조직에 맞는 규칙이 아니라 시작점을 정하기 위한 실무 제안입니다.
Google Cloud는 학습·서빙 데이터의 통계 비교와 연속된 서빙 데이터 사이의 드리프트 비교를 각각 지원하는 방법을 설명합니다. 중요한 것은 특정 제품 함수를 그대로 도입하는 일이 아니라, 비교할 두 시점과 조사할 원문 로그를 미리 정하는 것입니다.

예측 운영이 흔들리는 이유는 기술 신호가 없어서가 아니라, 신호가 왔을 때 누가 무엇을 할지 정해져 있지 않아서인 경우가 많습니다. NIST는 AI 시스템의 적용 맥락·역할·측정·관리 책임을 문서화하고, 배포 후에도 반복해서 평가하라고 안내합니다.
운영 문서에는 최소한 다음을 적어 두는 편이 좋습니다.
상담에서 함께 만들 수 있는 산출물도 이 네 가지에 맞출 수 있습니다. 모델 자체를 다시 만드는 일만이 아니라, 입력 기준선 표, 스큐·드리프트 알림 정의, 예측 권한 단계표, 오차 사례 검토 양식과 재학습·중단 판단표를 묶어 실제 운영에 연결하는 방식입니다.
이 글의 제안은 특정 조직의 모델 성능이나 고객 성과를 보장하는 방법이 아닙니다. 데이터 분포 변화가 보였다고 해서 항상 재학습이 필요한 것도 아니고, 드리프트 탐지가 업무 원인을 자동으로 설명해 주지도 않습니다. 조직의 입력 정의·업무 정책·위험 허용 범위를 먼저 확인한 뒤 작은 범위에서 검증해야 합니다.
예측 AI가 빗나가는 장면을 함께 분해하고 입력 기준선·알림·중단선을 설계하고 싶다면 아래 채널로 문의하실 수 있습니다.
Google Cloud, Model monitoring overview — 학습·서빙 데이터 비교, data skew·data drift 정의와 모니터링 흐름을 확인했습니다.
NIST, AI RMF Core — AI 적용 맥락, 사람의 역할·감독, 측정·관리와 지속적인 검토 원칙을 참고했습니다.