경제경영
사고 안 치는 AI 상담봇
일의도구들
넥스트북(NextBook)
0 (0명)
2명이 읽었어요
유료 작품은 원스토리 앱에서 이용 할 수 있어요.
- 소장
- 11,000 ⓒ
| 듣기기능 | TTS지원 | 파일정보 | EPUB |
|---|---|---|---|
| 총 용량 | 3.6 MB | 이용기기 | |
| ISBN | 9791144300637 | ||
책 소개
상담봇이 가장 위험한 순간은 답을 못할 때가 아니라, 근거와 권한이 없는데도 틀린 답을 회사의 약속처럼 매끄럽게 말할 때다. 반품 기한, 해지 조건, 배송 일정, 본인 확인처럼 고객 행동과 직접 연결되는 문의에서는 한 번의 그럴듯한 오답이 보상, 민원, 개인정보 노출, 내부 조사로 이어질 수 있다. 자동응답률이 높다는 숫자만으로는 이런 실패를 잡아낼 수 없다.
이 책은 GPT 기반 상담봇을 ‘잘 말하는 모델’이 아니라 책임선이 있는 고객상담 시스템으로 설계하는 방법을 다룬다. 문의 위험도를 나누고, 고객 언어를 의도·개체·상태값으로 해석하며, 정본 문서의 출처 계층과 버전·유효기간·권한을 지식베이스에 붙이는 과정을 설명한다. 검색과 생성의 역할을 분리하고, 근거가 약할 때 재질문·거절·인계로 전환하는 신뢰도 기준, 환각과 금지답변 차단, 개인정보 최소수집, 상담원에게 맥락을 끊김 없이 넘기는 방법까지 이어진다.
출시 전 평가 질문세트, 배포 후 관제, 민감민원 보호장치, 부록의 60문항과 판정 기준은 실제 운영팀이 반복해서 점검할 수 있는 구조로 짜여 있다. 모든 질문에 답하는 봇이 아니라 모르는 순간을 알고 멈출 수 있는 봇, 모델이 아니라 조직이 책임을 설명할 수 있는 상담 체계를 만들고 싶은 팀을 위한 실무서다.
이 책은 GPT 기반 상담봇을 ‘잘 말하는 모델’이 아니라 책임선이 있는 고객상담 시스템으로 설계하는 방법을 다룬다. 문의 위험도를 나누고, 고객 언어를 의도·개체·상태값으로 해석하며, 정본 문서의 출처 계층과 버전·유효기간·권한을 지식베이스에 붙이는 과정을 설명한다. 검색과 생성의 역할을 분리하고, 근거가 약할 때 재질문·거절·인계로 전환하는 신뢰도 기준, 환각과 금지답변 차단, 개인정보 최소수집, 상담원에게 맥락을 끊김 없이 넘기는 방법까지 이어진다.
출시 전 평가 질문세트, 배포 후 관제, 민감민원 보호장치, 부록의 60문항과 판정 기준은 실제 운영팀이 반복해서 점검할 수 있는 구조로 짜여 있다. 모든 질문에 답하는 봇이 아니라 모르는 순간을 알고 멈출 수 있는 봇, 모델이 아니라 조직이 책임을 설명할 수 있는 상담 체계를 만들고 싶은 팀을 위한 실무서다.
목차
프롤로그. 그럴듯한 오답의 비용
1장. 상담봇의 책임선
1절. 자동응답과 자동판단의 경계
2절. 문의 위험도의 세 단계
3절. 봇·시스템·상담원의 역할 분리
2장. 고객 언어의 의도 지도
1절. 키워드보다 해결 목적
2절. 복합 문의와 모호한 표현
3절. 의도·개체·상태값의 라우팅
3장. 정답을 보존하는 지식베이스
1절. FAQ보다 먼저 세울 출처 계층
2절. 문서 쪼개기와 메타데이터
3절. 버전·유효기간·권한의 최신성
4장. 검색과 생성의 안전한 분업
1절. 검색 증강 생성의 실제 흐름
2절. 검색 실패와 답변 중단
3절. 근거 범위 안의 문장 조립
4절. 오탈자·구어체·다국어의 검색 보정
5장. 답변 신뢰도의 기준선
1절. 모델 확신과 운영 신뢰도
2절. 근거·정책·문맥의 복합 점수
3절. 답변·재질문·거절·인계의 네 갈래
6장. 환각과 금지답변의 차단선
1절. 없는 정책이 생기는 네 경로
2절. 프롬프트 주입과 내부정보 유출
3절. 금지문구를 넘어선 정책 엔진
4절. 고객 피해 전의 출력 차단
7장. 개인정보가 새지 않는 대화
1절. 처음부터 받지 말아야 할 정보
2절. 입력·검색·출력의 마스킹 지점
3절. 대화기록·보관기간·접근권한
4절. 동의·고지·삭제 요청의 운영
8장. 끊기지 않는 상담원 인계
1절. 인계 시점의 위험 신호
2절. 재설명을 없애는 요약 패킷
3절. 우선순위·대기시간·채널 전환
4절. 상담 결과의 지식 환류
9장. 민감민원의 보호장치
1절. 분노·반복 항의·법적 위협의 구분
2절. 취약 고객과 안전 신호
3절. 보상·환불·책임 인정의 권한 경계
4절. 위기 문구와 기록 보존
10장. 출시 전 평가 질문세트
1절. 실제 문의의 시험문제 전환
2절. 정상·경계·공격 질문의 균형
3절. 정답률보다 중요한 실패 비용
4절. 회귀시험과 출시 승인선
11장. 배포 후 관제실
1절. 해결률·오답률·인계율의 동시 해석
2절. 지식·모델·고객 언어의 드리프트
3절. 표본 검수·경보·감사 로그
4절. 장애 격리와 재발 방지 회고
12장. 사람이 책임지는 운영체계
1절. 제품·상담·법무·보안의 책임표
2절. 지식 변경과 모델 교체의 승인 절차
3절. 월간 운영회의와 중단 기준
4절. 작은 범위의 안전한 확장
부록 A. 평가용 질문세트 60문항
부록 B. 환각·금지답변 판정 기준
부록 C. 민감민원 대응 기준
에필로그. 모르는 순간을 아는 상담봇
1장. 상담봇의 책임선
1절. 자동응답과 자동판단의 경계
2절. 문의 위험도의 세 단계
3절. 봇·시스템·상담원의 역할 분리
2장. 고객 언어의 의도 지도
1절. 키워드보다 해결 목적
2절. 복합 문의와 모호한 표현
3절. 의도·개체·상태값의 라우팅
3장. 정답을 보존하는 지식베이스
1절. FAQ보다 먼저 세울 출처 계층
2절. 문서 쪼개기와 메타데이터
3절. 버전·유효기간·권한의 최신성
4장. 검색과 생성의 안전한 분업
1절. 검색 증강 생성의 실제 흐름
2절. 검색 실패와 답변 중단
3절. 근거 범위 안의 문장 조립
4절. 오탈자·구어체·다국어의 검색 보정
5장. 답변 신뢰도의 기준선
1절. 모델 확신과 운영 신뢰도
2절. 근거·정책·문맥의 복합 점수
3절. 답변·재질문·거절·인계의 네 갈래
6장. 환각과 금지답변의 차단선
1절. 없는 정책이 생기는 네 경로
2절. 프롬프트 주입과 내부정보 유출
3절. 금지문구를 넘어선 정책 엔진
4절. 고객 피해 전의 출력 차단
7장. 개인정보가 새지 않는 대화
1절. 처음부터 받지 말아야 할 정보
2절. 입력·검색·출력의 마스킹 지점
3절. 대화기록·보관기간·접근권한
4절. 동의·고지·삭제 요청의 운영
8장. 끊기지 않는 상담원 인계
1절. 인계 시점의 위험 신호
2절. 재설명을 없애는 요약 패킷
3절. 우선순위·대기시간·채널 전환
4절. 상담 결과의 지식 환류
9장. 민감민원의 보호장치
1절. 분노·반복 항의·법적 위협의 구분
2절. 취약 고객과 안전 신호
3절. 보상·환불·책임 인정의 권한 경계
4절. 위기 문구와 기록 보존
10장. 출시 전 평가 질문세트
1절. 실제 문의의 시험문제 전환
2절. 정상·경계·공격 질문의 균형
3절. 정답률보다 중요한 실패 비용
4절. 회귀시험과 출시 승인선
11장. 배포 후 관제실
1절. 해결률·오답률·인계율의 동시 해석
2절. 지식·모델·고객 언어의 드리프트
3절. 표본 검수·경보·감사 로그
4절. 장애 격리와 재발 방지 회고
12장. 사람이 책임지는 운영체계
1절. 제품·상담·법무·보안의 책임표
2절. 지식 변경과 모델 교체의 승인 절차
3절. 월간 운영회의와 중단 기준
4절. 작은 범위의 안전한 확장
부록 A. 평가용 질문세트 60문항
부록 B. 환각·금지답변 판정 기준
부록 C. 민감민원 대응 기준
에필로그. 모르는 순간을 아는 상담봇