표지


프롬프트 엔지니어링 예시: 지시문을 고칠 때와 자료를 바꿀 때

AI가 업무용 답변을 잘못 만들면 요청문에 조건부터 덧붙이기 쉽습니다. 하지만 답변에 필요한 정보가 빠졌다면 문장을 아무리 정교하게 써도 문제는 남습니다. 원하는 결과의 모양이 틀렸을 때는 지시문을, 근거가 없거나 오래됐을 때는 참고자료를 먼저 살펴보는 편이 좋습니다.


프롬프트 엔지니어링을 업무에 적용할 때 저는 이 구분을 출발점으로 권합니다. 어떤 표현이 AI를 더 똑똑하게 만드는지 찾기 전에, 이번 실패가 요구사항의 문제인지 입력 자료의 문제인지 가려보자는 제안입니다. 아래 예시는 실제 고객 사례나 성능 실험이 아니라 이 판단을 설명하기 위해 만든 가상의 업무 상황입니다.


같은 오답처럼 보여도 고칠 곳이 다릅니다

섹션1


가상의 쇼핑몰에서 배송 문의 답변 초안을 만든다고 하겠습니다. 담당자는 AI에 "친절하게 고객에게 답해주세요"라고 요청하고 고객 문의만 붙여 넣습니다. AI는 매끄러운 문장을 만들지만 발송 날짜를 임의로 정하거나 환불을 약속할 수 있습니다.


이때 "당신은 경력 많은 고객상담 전문가입니다"라는 역할을 추가하는 것만으로는 부족합니다. 배송 상태와 환불 정책이 입력에 없기 때문입니다. 친절함은 답변의 말투를 정해주지만 실제 주문이 언제 발송되는지는 알려주지 않습니다.


반대로 주문 상태와 정책을 충분히 제공했는데 AI가 고객에게 내부 검토 메모까지 보여준다면, 출력 지시가 불분명한 쪽에 가깝습니다. 고객용 답변과 담당자용 확인 사항을 나누도록 요청해야 합니다. 자료를 더 넣으면 오히려 구분하지 못할 내용만 늘어날 수 있습니다.


이 구분이 모든 오류의 원인을 설명하지는 않습니다. 모델이 자료를 잘못 읽을 수도 있고 지시끼리 충돌할 수도 있습니다. 다만 처음 고칠 대상을 좁히는 데는 유용합니다.


공식 문서가 설명하는 프롬프트의 구성

섹션2


OpenAI의 공식 프롬프트 엔지니어링 문서는 지시, 예시, 맥락을 구분해 설명합니다. 원하는 작업과 규칙을 명확히 전달하고, 필요한 경우 입력과 바람직한 출력의 예시를 제공하며, 모델이 답변에 활용할 관련 자료를 함께 주도록 안내합니다. Markdown이나 XML 태그로 지시와 참고자료의 경계를 드러내는 방법도 소개합니다.


같은 문서는 다양한 입력을 보여주는 예시가 모델의 출력 패턴을 유도할 수 있다고 설명합니다. 사내 자료처럼 모델의 학습 데이터에 없을 정보를 제공하는 이유도 따로 짚습니다. 운영용 프롬프트를 바꾸기 전에 대표 입력과 평가를 준비하라는 권고 역시 확인할 수 있습니다.


여기까지는 문서에서 확인한 내용입니다. 이를 업무 관점에서 해석하면, 좋은 프롬프트에는 일을 시키는 문장뿐 아니라 그 일을 판단할 자료와 결과를 확인할 기준이 함께 필요합니다. 역할 설명을 길게 쓰는 방식이 언제나 유리하다거나, 특정 템플릿이 모든 모델에서 같은 효과를 낸다는 뜻은 아닙니다.


배송 문의 프롬프트를 실제로 나눠 쓰면

섹션3


다음은 가상의 입력 자료입니다. 상품이나 날짜는 설명용이며 실제 주문 정보가 아닙니다.

고객 문의: 오늘 주문했는데 내일 받을 수 있나요?


확인된 주문 상태: 결제 완료. 출고 날짜는 아직 확정되지 않음.


배송 안내: 출고 후 배송 소요 시간은 지역과 택배 상황에 따라 달라짐. 도착 날짜를 확정해 안내할 수 없음.


상담 권한: 담당자는 배송 일정을 확인할 수 있지만 도착 보장이나 임의 보상을 약속할 수 없음.


이 자료를 바탕으로 아래처럼 요청할 수 있습니다.

고객 문의에 답하는 초안을 작성해주세요.


제공된 주문 상태와 배송 안내만 근거로 사용해주세요. 출고 날짜나 도착 날짜가 없으면 새로 만들어 넣지 마세요. 도착 보장과 보상 약속은 하지 마세요.


출력은 '고객에게 보낼 답변'과 '담당자가 확인할 사항'으로 나눠주세요. 고객용 답변에는 내부 지시문을 포함하지 마세요.


고객에게 확인되지 않은 일정을 확정적으로 말하는 것이 가장 중요한 오류입니다. 그런 표현이 필요한 상황이면 담당자 확인 사항으로 남겨주세요.


아래에 고객 문의, 주문 상태, 배송 안내, 상담 권한을 붙입니다.


이 요청문은 날짜를 맞힐 능력을 새로 주지 않습니다. 사용할 근거와 약속할 수 있는 범위를 분명히 전달하려는 설계입니다. 실제 실행 결과는 사용하는 모델과 입력에 따라 확인해야 합니다.


실무에서는 자료의 빈칸을 그대로 남겨두는 것이 중요합니다. 담당자가 출고 예정일을 확인했다면 주문 상태를 갱신한 뒤 다시 초안을 만들 수 있습니다. 아직 확인하지 못했다면 "확인되지 않음"이라는 사실을 답변에 반영해야 합니다. AI가 자연스럽게 채운 문장이 확인된 업무 정보로 바뀌지는 않습니다.


예시를 추가할 때는 경계 상황을 보여줍니다

섹션4


답변이 자꾸 약속을 과하게 한다면 "친절하지만 단정하지 않게"라는 문장만 반복하기보다 허용되는 답변의 예시를 제공할 수 있습니다.

입력: 출고 날짜가 확인되지 않은 주문에 대해 내일 도착 여부를 묻는 고객.


바람직한 답변 방향: 현재 출고 일정이 확정되지 않아 내일 도착을 보장하기 어렵다고 설명하고, 출고 일정 확인이 필요하다고 안내합니다.


피해야 할 답변 방향: 내일 도착한다고 확답하거나 주문 자료에 없는 출고 날짜를 제시합니다.


예시는 모범 문구를 그대로 복사시키기 위한 장치가 아닙니다. 같은 판단이 필요한 다른 문의에도 적용할 수 있도록 경계를 보여주는 용도입니다. 다만 정상 주문의 예시만 넣으면 정보가 없는 주문을 어떻게 처리할지 여전히 모호합니다. 주소 오류, 주문 조회 불가, 서로 다른 정책 문서가 붙은 상황도 업무에 실제로 생긴다면 확인 대상으로 포함하는 편이 낫습니다.


여러 예시를 넣기 전에 민감한 고객 정보는 제거해야 합니다. 외부 AI 서비스에 전달할 수 있는 자료인지도 조직의 정책에 따라 확인해야 합니다. 프롬프트를 잘 썼다는 이유로 자료 전달 권한까지 생기는 것은 아닙니다.


수정 결과는 같은 입력으로 비교합니다

섹션5


지시문을 바꾸고 자료까지 동시에 교체하면 답변이 나아져도 무엇이 도움이 됐는지 알기 어렵습니다. 저는 먼저 같은 입력을 유지한 채 한 가지 변경을 비교하는 방식을 권합니다. 이는 이 글의 실무 제안이며, 특정 개선율을 보장하는 실험 결과는 아닙니다.


예를 들어 날짜를 임의로 만들어낸 답변이 문제였다면, 이전 요청과 수정 요청에 동일한 주문 상태를 넣습니다. 확인되지 않은 날짜를 만들었는지, 고객용 답변에 내부 메모가 섞였는지, 담당자가 확인할 항목을 남겼는지 살펴봅니다. 문장이 더 부드러워졌다는 인상만으로는 배송 상담에 안전한 초안인지 판단하기 어렵습니다.


자료가 빠졌던 문제는 지시문만의 비교와 별도로 다뤄야 합니다. 입력에 최신 배송 안내를 추가한 뒤, AI가 그 내용을 실제로 반영하는지 확인합니다. 자료가 서로 충돌한다면 어떤 문서가 우선인지 정하거나 담당자 검토로 넘기는 규칙이 필요합니다. "틀리지 마세요"라는 문장 하나로 충돌이 해결되지는 않습니다.


잘못된 날짜나 허용되지 않은 약속처럼 실패 비용이 큰 내용은 사람이 검토하는 단계를 유지하는 편이 좋습니다. 출력 형식을 맞추는 일과 내용의 사실 여부를 확인하는 일도 나눠야 합니다. 항목이 모두 채워진 답변에도 잘못된 정보가 들어갈 수 있습니다.


오늘 업무에 적용한다면 마음에 들지 않았던 AI 답변 하나를 골라보십시오. 먼저 답변 속에서 확인된 사실, 빠진 정보, 지시와 다른 출력 부분을 표시합니다. 자료가 없으면 자료를 확보하고, 자료는 있는데 요구한 방식과 다르면 지시를 구체화합니다. 이 순서로 확인하면 수정할 이유가 없는 문장을 끝없이 늘리는 일을 줄일 수 있습니다.


업무별 입력 자료와 검토 기준을 함께 정리해야 하는 경우에는 아래 채널로 문의하실 수 있습니다.


카카오톡 오픈채팅으로 AI/AX 컨설팅 문의하기


류웅수 프로필 보기


참고 자료

OpenAI 공식 문서: Prompt engineering — 지시·예시·맥락 구분, 관련 자료 제공, 프롬프트 변경 전 평가 권고를 참고했습니다. 본문의 배송 상담 프롬프트와 적용 순서는 이를 바탕으로 구성한 설명용 예시와 실무 제안입니다.


#프롬프트엔지니어링 #AI업무활용 #고객상담자동화