
계약 갱신을 앞둔 담당자가 “이번 계약에서 우리에게 불리한 조항을 찾아 달라”고 AI에 문서를 올리는 장면을 생각해 보겠습니다. AI는 긴 계약서에서 자동 갱신, 손해배상 한도, 데이터 사용, 해지 조건을 표시하고 비슷한 표현을 비교해 줄 수 있습니다. 그런데 표시된 조항이 많아졌다고 바로 서명할 수 있는 것은 아닙니다. 어떤 문장이 실제로 적용되는지, 예외를 누가 받아들일지, 협상이 결렬되면 어떤 대안을 택할지는 조직의 책임과 권한에 달려 있기 때문입니다.
이 글은 특정 계약의 법률 자문이나 계약 결과를 보장하는 사례가 아닙니다. 질문을 위험 조항을 몇 개 찾았나에서 사내 기준에서 벗어난 조건을 누가 수용하고, 어느 수정본에 서명할까로 바꾸는 것이 출발점입니다. NIST AI 위험관리 프레임워크의 핵심 기능은 AI 위험에 대한 책임과 사람의 감독 절차를 정의하고 문서화하라고 안내합니다. NIST 생성형 AI 프로파일도 생성형 AI를 사용할 때 추가적인 사람 검토, 추적, 문서화와 관리 감독이 필요할 수 있다고 설명합니다. 이 원칙을 계약 검토 업무에 적용해, AI가 표시한 기준 이탈을 사람이 어떻게 수용·반려하고 서명본에 연결할지 제안합니다.

AI가 잘하는 일은 긴 문서와 여러 수정본에서 같은 질문을 반복하는 것입니다. 본문과 별첨의 정의를 찾아 연결하고, 협상 전후에 바뀐 문장을 표시하고, “해지”, “갱신”, “책임”, “데이터”가 들어간 문단을 모아 주는 데에는 도움이 됩니다. 이 결과는 검토자가 읽어야 할 범위를 줄여 줍니다.
하지만 “이 수정 문장을 받아들여도 되는가”는 검색과 다른 질문입니다. 자동 갱신일과 통지 기한이 사내 기준을 벗어났는지, 손해배상 한도가 사업 규모에 비해 낮아졌는지, 고객 데이터를 공급자가 재사용할 수 있게 바뀌었는지, 협상 중 합의한 예외가 최종본에 남아 있는지는 계약의 맥락과 회사의 위험 허용선에 달려 있습니다.
첫 화면에 위험 조항 7개처럼 숫자만 보여 주면 담당자는 오히려 결과를 과신하기 쉽습니다. 협상 수정본을 기준으로 다음 세 묶음으로 나눠 표시하는 편이 낫습니다.
NIST AI RMF도 사람의 역할과 감독 절차를 조직 정책에 맞게 정의하고 문서화하는 결과를 제시합니다. 계약 검토에 적용하면 AI의 작업 결과는 법무·구매·보안·현업 담당자가 수정본의 기준 이탈을 확인하고 예외 수용 여부를 기록할 수 있는 근거 묶음이어야 합니다.

계약서 전체를 한 번에 점수화하기보다, 사내 기준과 자주 협상하는 조항 묶음을 먼저 정하세요. 아래 조항 분류와 검토 역할은 표준이 아니라 파일럿 설계를 위한 예시입니다.
| 조항 묶음 | 사내 기준과 비교할 항목 | AI가 할 수 있는 일 | 사람이 남길 결정 |
|---|---|---|---|
| 정의·범위 | 본문·별첨·주문서의 우선순위가 기준표와 맞는가? | 정의어와 충돌 문장 연결 | 적용 범위 이탈의 수용자 지정 |
| 기간·갱신 | 자동 갱신일·통지 기한·가격 변경 조건이 기준을 벗어났는가? | 이전·현재 날짜와 예외 추출 | 수정 요구 또는 예외 수용 승인 |
| 데이터·지식재산 | 사용·보관·삭제·재사용 문구가 협상 합의와 일치하는가? | 문구 변경과 별첨 연결 | 보안·개인정보 책임자의 수용 여부 |
| 서비스·책임 | 장애 기준·손해배상 한도·면책 범위가 기준보다 낮아졌는가? | 수치·한도·면책 변경 표시 | 위험 수용자와 보완 조건 결정 |
| 해지·분쟁 | 중도 해지·전환·관할 조항이 합의한 출구 조건과 같은가? | 해지 사유와 관할 변경 수집 | 계속·재협상·보류 중 하나를 선택 |
여기서 중요한 것은 마지막 열입니다. AI가 수정 문장을 찾았다는 사실과 회사가 그 이탈을 감수하기로 했다는 사실은 서로 다른 기록이어야 합니다. 같은 문서라도 일상적인 소프트웨어 구독과 핵심 고객 데이터를 다루는 위탁계약의 승인선은 달라질 수 있습니다. 예외를 수용했다면 조건과 만료 시점도 남겨야 다음 갱신에서 같은 논의를 반복하지 않습니다.

계약 검토에서 가장 곤란한 오류는 승인받은 예외가 서명본에 연결되지 않는 경우입니다. AI가 “책임 제한이 표준보다 낮다”고 표시해도, 어느 수정본을 기준으로 한 말인지와 예외를 누가 받아들였는지가 빠지면 협상 기록으로 쓸 수 없습니다. 버전이 다른 파일을 읽었거나 서명 직전 수정본이 빠졌다면 문장 자체를 정확히 요약해도 결론은 틀립니다.
그래서 결과 화면과 승인 기록에 다음 정보를 함께 남겨야 합니다.
NIST AI RMF의 측정·관리 안내는 사람의 감독과 예외·에스컬레이션, 진행·중단 결정을 기록하고 측정하는 방식을 제안합니다. 이를 계약 업무에 맞추면 “AI가 맞혔는가”만 세지 않고, 승인된 예외가 어떤 수정본과 서명본에 이어졌는지 확인할 수 있습니다.

처음부터 모든 계약을 자동 검토하지 마세요. 갱신이 잦고 수정본이 여러 번 오가지만, 잘못 서명했을 때 손실이 큰 계약 묶음 하나를 정해 파일럿을 돌리는 편이 안전합니다. 목표는 AI가 법률 판단을 대신하는지 보는 것이 아니라, 협상 중 승인된 예외가 서명 직전 파일에 남아 있는지 확인하는 데 있습니다.
예를 들어 다음 순서로 시작할 수 있습니다.
수정 요구, 예외 수용, 협상 중, 서명 보류처럼 승인 상태를 기록합니다.파일럿 지표도 추출 정확도 하나로 정하지 않습니다. 승인된 예외가 서명본에 정확히 이어진 비율, 승인선 밖에서 결정이 진행된 건수, 수정본과 최종본의 차이를 잡은 건수, 서명 직전 대조에 걸린 시간을 함께 봐야 합니다. 법률 해석의 정답률을 대신할 수 있는 수치는 아니며, 협상·승인·서명 사이의 통제력을 확인하는 보조 지표입니다.

NIST 생성형 AI 프로파일은 조직이 생성형 AI의 위험 수준에 따라 사람 검토·추적·문서화와 관리 감독을 더할 수 있다고 설명합니다. 계약 검토에 이 원칙을 적용하면 도입 범위는 “계약서를 몇 초 만에 요약하는가”가 아니라 다음 질문으로 정리됩니다.
이 글의 제안은 법률 자문, 계약 체결 승인, 법적 위험의 자동 판정을 대신하지 않습니다. 실제 설계는 계약 유형, 개인정보와 영업비밀의 범위, 법무·보안·구매 조직의 권한, 현행 전자계약 시스템에 따라 달라집니다. 먼저 한 묶음의 계약을 놓고 “AI가 표시한 기준 이탈은 무엇이며, 누가 어떤 조건으로 수용했고, 서명본은 그 승인본과 같은가”를 세 칸으로 나눠 보세요.
계약 검토에서 AI의 결과를 승인 가능한 업무 흐름으로 연결하고 싶다면 아래 채널로 문의하실 수 있습니다.
NIST, AI Risk Management Framework Core — AI 위험에 대한 거버넌스, 사람의 감독, 문서화와 지속적인 측정·관리 원칙을 확인했습니다.
NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile — 생성형 AI 사용에서 추가적인 사람 검토, 추적·문서화, 관리 감독이 필요할 수 있다는 설명을 참고했습니다.
NIST, AI RMF Playbook — Measure — 사람의 감독, 예외·에스컬레이션, 진행·중단 결정을 기록하고 측정하는 실무 항목을 참고했습니다.
NIST, AI Risk Management and Human-AI Interaction — 운영 환경에서 사람과 AI의 역할·책임을 구분하고 문서화하는 원칙을 참고했습니다.