고객지원 AI의 시스템 프롬프트를 역할, 톤, 근거, 에스컬레이션 순서로 쓰고 대화 기록으로 고쳐 가는 방법을 정리했습니다.
AI 상담을 도입했는데 답변이 들쭉날쭉하거나, 모르는 내용을 그럴듯하게 지어내거나, 꼭 사람에게 넘겨야 할 때 계속 버티는 경험을 하신 분이 많습니다. 원인은 모델 성능보다 시스템 프롬프트에 있는 경우가 훨씬 많습니다. 이 글에서는 고객지원용 프롬프트를 어떤 순서로 쓰고, 어떻게 시험하고, 어떻게 고쳐 나가야 하는지 실무 관점에서 정리합니다.
모델보다 시스템 프롬프트가 더 중요한 이유
같은 모델을 쓰더라도 프롬프트가 다르면 전혀 다른 상담원이 됩니다. 시스템 프롬프트는 상담원에게 주는 입사 첫날의 업무 매뉴얼과 같습니다. 무엇을 담당하는지, 어떤 말투를 쓰는지, 어디까지 약속해도 되는지, 언제 사람을 불러야 하는지가 여기에 들어갑니다.
매뉴얼 없이 투입된 신입 상담원을 떠올려 보십시오. 아무리 똑똑해도 환불 정책을 모르면 추측으로 답하게 되고, 권한이 없는데도 "처리해 드리겠습니다"라고 말해 버립니다. AI도 마찬가지입니다. 모델을 더 좋은 것으로 바꾸기 전에 프롬프트부터 점검하는 편이 비용도 적게 들고 효과도 큽니다.
프롬프트가 해결해 주는 문제는 크게 네 가지입니다.
- 답변의 범위가 흐려져 엉뚱한 주제까지 대답하는 문제
- 채널마다 어울리지 않는 길이와 말투
- 근거 없는 약속(환불, 배송일, 할인 등)
- 사람에게 넘겨야 할 상황을 놓치는 문제
고객지원 프롬프트의 구조
좋은 프롬프트는 길이보다 순서와 명확성이 중요합니다. 아래 다섯 블록으로 나누어 쓰면 나중에 수정하기도 쉽습니다.
- 역할과 범위: 누구이며 무엇을 돕고 무엇은 돕지 않는지
- 톤과 형식: 존댓말 수준, 길이, 채널별 모양
- 근거 규칙: 어떤 자료를 믿고 답하는지, 자료에 없으면 어떻게 하는지
- 약속의 한계: 해도 되는 말과 하면 안 되는 말
- 에스컬레이션 규칙: 사람에게 넘기는 조건과 넘길 때 하는 말
블록마다 제목을 달고 짧은 문장이나 목록으로 쓰는 것이 좋습니다. 한 문단에 여러 규칙을 섞어 쓰면 모델도 사람도 우선순위를 파악하기 어렵습니다.
역할과 범위부터 씁니다
첫 문단은 "당신은 누구이고 누구를 돕는가"입니다. 업종, 고객 유형, 담당 업무를 구체적으로 적습니다. 여기서 범위를 좁게 잡을수록 엉뚱한 답이 줄어듭니다.
예시는 다음과 같습니다.
`` 당신은 온라인 문구 쇼핑몰의 고객지원 담당자입니다. 주문, 배송, 교환·반품, 상품 사용 방법에 대해서만 안내합니다. 법률, 의료, 투자 상담이나 다른 회사 제품 비교에는 답하지 않고, 정중하게 범위 밖임을 알린 뒤 도울 수 있는 주제를 제안합니다. ``
"하지 않는 일"을 함께 적는 것이 핵심입니다. 범위 밖 질문을 받았을 때 어떻게 반응할지까지 정해 두면, 거절도 일관되고 친절해집니다.
톤을 정하고 채널에 맞게 모양을 잡습니다
한국 고객은 채널마다 기대하는 대화 방식이 다릅니다. 카카오톡에서는 짧은 문장을 여러 번 주고받는 흐름이 자연스럽고, 웹사이트 채팅은 조금 더 정돈된 안내가 어울립니다. Instagram DM은 가볍고 빠른 톤이 잘 맞지만, 결제나 개인정보가 얽힌 내용은 신중하게 다뤄야 합니다.
톤 규칙은 다음처럼 구체적으로 씁니다.
- 기본은 합니다체 또는 해요체 중 하나로 통일합니다.
- 첫 문장에서 결론을 먼저 말하고, 설명은 그다음에 붙입니다.
- 이모티콘 사용 여부를 명시합니다.
- 한 번에 묻는 질문은 하나로 제한합니다.
같은 답변도 채널에 따라 모양이 달라집니다.
위 예시는 형식을 보여 주기 위한 것이며, 실제 배송 일정은 각 가게의 정책에 따라 달라집니다. 프롬프트에는 "카카오톡과 모바일 메신저에서는 한 메시지를 두세 문장 이내로, 웹 채팅에서는 필요하면 목록을 써도 됨"처럼 채널별 규칙을 짧게 적어 두면 됩니다.
근거를 붙이고, 약속은 통제합니다
고객지원에서 가장 큰 사고는 지어낸 답변입니다. 프롬프트로 다음 원칙을 명시하십시오.
근거 규칙
- 답변은 연결된 지식 자료에 있는 내용만 근거로 삼습니다.
- 자료에 없으면 모른다고 말하고, 확인 후 안내하거나 담당자 연결을 제안합니다.
- 추측성 표현으로 사실처럼 말하지 않습니다.
약속 규칙
AI가 할 수 없는 일을 할 수 있는 것처럼 말하면 곤란해집니다. 다음처럼 금지 목록을 만들어 두십시오.
- 정책에 없는 환불, 보상, 할인을 제안하지 않습니다.
- 배송 도착일을 단정하지 않고, 자료에 적힌 기준만 전달합니다.
- 결제 정보, 비밀번호 같은 민감한 정보는 채팅으로 요구하지 않습니다.
여기서 한 가지 분명히 해 둘 점이 있습니다. 프롬프트만으로 환각을 완전히 막을 수는 없습니다. 프롬프트는 "모르면 모른다고 말하라"는 행동 규칙을 주고, 실제 사실은 지식 자료가 뒷받침해야 합니다. 두 가지가 함께 갖춰져야 안정적입니다.
에스컬레이션은 느낌이 아니라 정책으로 정의합니다
"필요하면 상담원에게 연결하세요"는 규칙이 아닙니다. 무엇이 필요한 상황인지 모델이 판단해야 하기 때문입니다. 조건을 사건 단위로 적으십시오.
- 고객이 사람 상담원을 직접 요청한 경우
- 같은 문제로 두 번 이상 답했는데도 해결되지 않은 경우
- 결제 오류, 이중 청구, 계정 도용 의심 등 금전·보안 사안
- 강한 불만이나 항의, 법적 조치 언급
- 지식 자료에 근거가 없는 정책 예외 요청
넘길 때 하는 말도 정해 둡니다. 핵심은 고객에게 확인되지 않은 대기 시간을 약속하지 않는 것입니다. "곧 연락드리겠습니다"처럼 모호한 표현보다, 담당자에게 전달되었다는 사실과 다음 단계를 담백하게 알리는 편이 신뢰를 지킵니다.
시험하고, 대화 기록을 읽고, 고칩니다
프롬프트는 한 번에 완성되지 않습니다. 실제 대화를 읽으며 고치는 반복 작업이 품질을 결정합니다.
- 01시험 질문으로 테스트
- 02대화 기록에서 실패 찾기
- 03원인 분류 후 수정
- 04같은 질문으로 재확인
시험 질문 세트 만들기
처음부터 많이 만들 필요는 없습니다. 다음 유형을 골고루 섞어 열 개 안팎으로 시작하십시오.
- 자주 오는 평범한 질문
- 자료에 답이 없는 질문
- 범위 밖 질문
- 화가 난 고객의 문장
- 사람 연결을 요구하는 문장
- 규칙을 무시하라고 유도하는 문장
원인을 구분해서 고치기
실패를 발견하면 원인이 프롬프트인지 자료인지 먼저 구분합니다.
| 증상 | 먼저 볼 곳 |
|---|---|
| 말투, 길이, 형식이 어긋남 | 프롬프트 |
| 범위 밖 질문에 답함 | 프롬프트 |
| 사람 연결 시점이 틀림 | 프롬프트 |
| 정책 내용이 틀리거나 오래됨 | 지식 자료 |
| 답할 정보가 아예 없어서 모른다고 함 | 지식 자료 |
한 번에 한 가지만 고치고 같은 질문으로 다시 확인하십시오. 여러 곳을 동시에 바꾸면 무엇이 효과가 있었는지 알 수 없게 됩니다.
AI SNS CHAT에서 적용하는 방법
AI SNS CHAT에서는 위에서 설명한 흐름을 다음과 같이 따라갈 수 있습니다.
1. 프롬프트 작성 시작하기. 에이전트에는 페르소나와 가이드라인을 설정할 수 있고, 프롬프트 생성기와 프롬프트 라이브러리, 14개의 스타터 페르소나가 준비되어 있습니다. 빈 화면에서 시작하기 부담스럽다면 스타터에서 출발해 앞서 소개한 다섯 블록 구조로 다듬으면 됩니다.
2. 지식 자료 연결하기. 사이드바의 Data sources에서 파일, 텍스트 스니펫, 웹사이트, Q&A, Notion 등을 연결할 수 있습니다. 프롬프트의 근거 규칙은 여기에 연결한 자료를 기준으로 작동합니다. 또한 Channels에서 Confluence, Google Drive, Zendesk Guide 같은 문서 소스 커넥터도 사용할 수 있습니다.
3. 모델 선택과 비교. 에이전트의 Settings → AI에서 모델을 고를 수 있습니다. 고급 모델과 모델 폴백은 Hobby 이상 요금제에서 사용할 수 있습니다. Playground에서는 A/B 모델 비교로 같은 질문에 모델별 답변이 어떻게 다른지 나란히 확인할 수 있어, 프롬프트 수정 전후를 점검하기 좋습니다.
4. 채널에 배포하기. Channels에서 웹사이트 채팅 위젯, KakaoTalk, Instagram, Messenger, WhatsApp 등 여러 채널에 연결할 수 있습니다. 채널별 규칙은 프롬프트 안에 따로 적어 두면 됩니다. 연결 가능한 채널은 /connections에서 확인하실 수 있습니다.
5. 에스컬레이션과 사람 인계. Escalations 액션으로 인계 조건을 설정하고, Helpdesk → Scheduling에서 담당자별·시간대별 근무 일정을 정하면 인계 건이 근무 중인 사람에게 자동 배정됩니다. 알림은 Slack, Teams, LINE WORKS, WhatsApp, 이메일, 웹훅으로 받을 수 있습니다. 인계 시 고객에게 가는 "다음에 어떻게 되는지" 안내 문구는 서버가 근무표를 읽어 직접 붙이며, 대기 시간을 지어내지 않습니다. Helpdesk는 Standard 이상에서 사용할 수 있습니다.
6. 대화 기록으로 개선하기. Activity → Chat logs에서 대화를 필터링하고, 좋아요·싫어요 평가를 확인하고, 문제 있는 대화에 플래그를 달 수 있습니다. 상담원이 답변을 수정해 이상적인 답으로 저장하면 에이전트 학습에 반영됩니다. 이메일은 Inbox에서 같은 방식으로 처리합니다.
7. 안전하게 되돌리기. 프롬프트를 크게 바꾸기 전에는 복원 지점을 활용하십시오. 에이전트당 최대 40개의 복원 지점이 있어 결과가 나쁘면 이전 상태로 되돌릴 수 있습니다. 에이전트별 프롬프트 인젝션 및 남용 필터도 설정할 수 있어, 규칙을 무시하게 유도하는 문장에 대한 방어 층을 하나 더 둘 수 있습니다.
플랜과 한도는 /pricing에서, 기능 전체는 /features에서 확인하실 수 있습니다.
자주 묻는 질문
고객지원 시스템 프롬프트는 어느 정도 길이가 적당합니까?
정해진 분량은 없지만, 짧고 명확한 규칙을 블록별로 나누는 것이 좋습니다. 한 페이지를 넘기기 시작하면 서로 충돌하는 규칙이 없는지 점검하십시오. 길이를 늘리기보다 중복을 지우고 우선순위를 분명히 하는 편이 효과적입니다.
프롬프트를 고객의 언어로 써야 합니까?
핵심 규칙은 팀이 가장 정확하게 관리할 수 있는 언어로 쓰고, 답변 언어는 별도로 지정하는 방식이 실용적입니다. 예를 들어 "고객이 사용하는 언어로 답한다"는 규칙을 넣을 수 있습니다. 다만 톤 예시나 금지 표현처럼 언어에 민감한 부분은 해당 언어로 예문을 함께 적어 두는 것이 안전합니다.
프롬프트만으로 AI가 내용을 지어내는 것을 막을 수 있습니까?
완전히 막을 수는 없습니다. 프롬프트는 자료에 없으면 모른다고 말하고 사람에게 넘기라는 행동 규칙을 주는 역할을 합니다. 정확한 답을 하려면 최신 정책과 상품 정보가 지식 자료에 들어 있어야 하며, 두 가지를 함께 관리해야 합니다.
프롬프트를 고칠지 지식 자료를 고칠지 어떻게 판단합니까?
말투, 범위, 형식, 사람 연결 시점이 문제라면 프롬프트를 고칩니다. 내용이 틀렸거나 오래되었거나 답할 정보가 없다면 지식 자료를 고칩니다. 대화 기록에서 실패한 사례를 하나씩 이 기준으로 분류하면 판단이 쉬워집니다.
웹 채팅, 카카오톡, Instagram에 프롬프트 하나로 충분합니까?
공통 규칙은 하나로 두고, 채널별 형식 규칙만 짧게 덧붙이는 방식을 권합니다. 카카오톡은 짧게 끊어서, 웹 채팅은 목록을 활용해서, Instagram은 가볍고 빠른 톤으로 쓰는 식입니다. 채널마다 별도 에이전트를 둘 수도 있지만, 처음에는 하나의 프롬프트에서 시작해 대화 기록을 보며 나누어도 늦지 않습니다.


