왜 중요한가

서비스 데스크는 오랫동안 단순한 질문에 더 빠르고 더 싸게 답하기를 원했습니다. 챗봇이 첫 시도였지만, 사용자를 좌절시키는 정해진 메뉴였습니다. 대규모 언어 모델 위에 만들어진 새 어시스턴트는 훨씬 유창하고, 열린 질문도 쉬운 말로 다룰 수 있습니다. 그래서 훨씬 유용하지만, 틀렸을 때 해를 끼칠 가능성도 훨씬 큽니다. 틀린 답이 맞는 것처럼 들리기 때문입니다.

사용자에게 가상 에이전트는 어느 시각에든 답에 이르는 빠른 길이 될 수 있습니다. 데스크 직원에게 AI 분류와 초안 작성은 분류와 쓰기를 넘겨받아 더 어려운 사례에 시간을 쓰게 해 줄 수 있습니다. 조직에는 둘 다 접촉당 비용을 줄일 수 있습니다. 이 편익은 실재하며, 어시스턴트를 알맞은 질문에 쓰고, 정확하게 유지하고, 사람이 필요한 이들을 가두지 않는 것에 달려 있습니다.

위험에는 사람의 얼굴이 있습니다. 마감 전에 시스템에서 잠긴 사용자, 환자를 대하며 빠른 해결이 필요한 간호사, 괴로운데 명랑한 스크립트를 받는 사람. 언제 넘겨야 하는지 알아보지 못하는 어시스턴트는 이들 모두를 제대로 돕지 못합니다. 이 주제는 가상 에이전트와 AI 분류가 어디에 맞는지, 어떻게 설계하고 시험하는지, 어떻게 정직하게 측정하는지를 설명합니다. 서비스 데스크(주제 3.1 — 서비스 데스크), 서비스 요청(주제 3.6 — 서비스 요청 관리), 지식(주제 3.9 — 지식 관리) 위에 서 있으며, 주제 5.1 — 서비스 관리에서의 AI와 주제 5.6 — AI 거버넌스, 위험, 규정 준수의 생각에 기댑니다.

핵심 개념

가상 에이전트. 텍스트나 음성으로 사용자와 대화하며 질문에 답하거나 작업을 수행하는 소프트웨어입니다. Wikipedia의 챗봇과 가상 비서 문서가 이를 설명합니다. 서비스 데스크에서 가상 에이전트는 흔히 사람에게 가는 경로를 갖춘 첫 접점입니다.

규칙 기반 대 AI 기반. 초기 챗봇은 스크립트를 따르거나 키워드를 맞췄습니다. AI 기반 어시스턴트는 자연어를 해석하고 답을 구성할 수 있습니다. Wikipedia가 대화형 사용자 인터페이스와 자연어 이해를 설명합니다. 스크립트는 예측 가능하고 제한적이며, 언어 모델은 유연하고 덜 예측 가능합니다. 많은 운영 시스템이 둘을 결합합니다. 민감한 작업에는 스크립트된 흐름을, 열린 질문에는 언어 모델을 씁니다.

인텐트와 흐름. 인텐트는 "비밀번호 재설정"이나 "노트북 주문"처럼 사용자가 하려는 일입니다. 많은 어시스턴트는 인텐트를 식별한 다음 점검이 있는 정의된 흐름을 실행하며, 행동에는 이쪽이 더 안전합니다. 열린 질문에는 어시스턴트가 관련 문서를 검색해 그로부터 답합니다.

근거 두기. 모델의 일반적인 기억이 아니라 지정되고 검토된 출처, 보통 지식 문서에서 답하고 그것을 보여 주는 것입니다. Wikipedia가 검색 증강 생성을 설명합니다. 근거 두기는 지어낸 답을 줄이지만 없애지는 못하며, 지식 기반의 품질이 어시스턴트 품질의 한계가 되게 합니다. 주제 3.9 — 지식 관리를 참조하세요.

이탈 방지와 해결. 이탈 방지(deflection)는 사용자가 어시스턴트에게서 답을 얻고 사람에게 연락하지 않았다는 뜻입니다. 해결은 사용자의 문제가 실제로 풀렸다는 뜻입니다. 둘은 다릅니다. 포기하고 다른 곳으로 간 사용자는 이탈 방지된 것이지 해결된 것이 아닙니다. 해결은 후속 조치, 반복 연락, 피드백으로 측정하세요.

인계. 어시스턴트가 도울 수 없거나 사용자가 요청할 때 맥락과 함께 대화를 사람에게 넘기는 것입니다. Wikipedia가 인계를 일반적으로 설명합니다. 좋은 인계는 이력을 가져가므로 사용자가 같은 말을 되풀이하지 않습니다. 나쁜 인계는 사용자를 대기열에 떨어뜨립니다. "사람과 이야기하기"를 항상 보이게 하세요.

분류와 라우팅. AI가 들어오는 티켓을 유형, 긴급도, 팀별로 분류하고 라우팅합니다. Wikipedia가 분류(triage)를 설명합니다. 비슷한 접촉의 급증으로부터 주요 인시던트의 가능성을 탐지할 수도 있습니다. 오류는 작업을 엉뚱한 대기열로 보내며, 재라우팅 비율이 좋은 척도입니다.

상담원을 위한 초안 작성과 요약. AI는 긴 티켓 스레드를 요약하고, 문서를 제안하고, 상담원이 편집할 답변 초안을 쓸 수 있습니다. 사람이 통제권을 지니면서 시간을 절약합니다. 주제 5.4 — 인시던트, 지식, 변경을 위한 생성형 AI를 참조하세요.

감성과 긴급도 탐지. 텍스트에서 사용자의 기분이나 긴급도를 추론하는 기법입니다. Wikipedia가 감성 분석을 설명합니다. 화가 난 사용자나 마감을 언급한 메시지를 우선시할 수 있습니다. 특히 언어와 문화를 넘어서는 불완전하므로 힌트로 쓰세요.

음성과 다국어 지원. 음성 인식과 음성 합성은 음성 상호작용을 가능하게 하고, 기계 번역은 더 많은 언어로 지원하게 합니다. Wikipedia가 이 기술들을 설명합니다. 품질은 언어와 억양에 따라 다르며, 덜 흔한 언어를 쓰는 사용자는 덜 잘 응대받을 수 있습니다. 실제 화자와 함께 시험하세요.

접근성과 포용. 어시스턴트는 장애가 있는 사람과 기술에 자신 없는 사람에게도 작동해야 합니다. Wikipedia가 접근성과 웹 콘텐츠 접근성 지침(WCAG)을 설명합니다. 화면 낭독기가 쓸 수 없는 채팅 창은 사용자를 배제합니다. 역시 Wikipedia가 설명하는 디지털 격차는 모두가 채팅을 선호하거나 쓸 수 있는 것은 아님을 일깨웁니다.

신원과 권한. 비밀번호 재설정 같은 행동을 수행할 수 있는 어시스턴트는 요청하는 사람이 누구인지 검증해야 합니다. 주장만으로 어시스턴트가 접근을 부여하게 하지 마세요. 주제 3.6 — 서비스 요청 관리와 주제 3.13 — 정보 보안 관리를 참조하세요.

기계임에 대한 정직. 사용자는 AI와 이야기하고 있음을 알아야 하며, 어시스턴트는 사람인 척하거나 갖지 않은 감정이 있는 척해서는 안 됩니다. 일부 법은 공개를 요구하므로, 적용되는 규칙을 확인하세요. Wikipedia의 다크 패턴 문서는 사람에게 가는 경로를 숨기는 것처럼 사용자를 속이는 설계 관행을 설명합니다. 이를 피하세요.

어시스턴트의 보안. 어시스턴트는 메시지나 문서 안의 텍스트가 어시스턴트의 지시를 덮어쓰려는 프롬프트 인젝션 같은 공격에 직면합니다. Wikipedia가 프롬프트 인젝션을 설명합니다. 적대적인 메시지가 악용할 수 있는 권한을 어시스턴트에게 주지 말고, 사용자 입력과 검색된 문서를 신뢰할 수 없는 것으로 다루세요.

프라이버시. 대화에는 개인 데이터가 담길 수 있습니다. 무엇을 저장하는지, 얼마나 오래, 누가 읽을 수 있는지, 모델을 훈련시키는지 정하세요. Wikipedia가 개인 데이터와 하나의 법적 틀로서 일반 개인정보 보호법(GDPR)을 설명합니다. 법률 자문을 구하세요.

렌즈는 어떻게 맞물리는가. 가상 에이전트는 데스크에서 AI, 자동화, 분석의 눈에 보이는 얼굴입니다. 애자일 프랙티스는 몇 가지 주제로 시작해 넓히기를 제안합니다. 자동화는 대화 뒤에서 작업을 완료합니다. 분석은 사용자가 무엇을 묻는지, 어시스턴트가 어디에서 실패하는지 알려 줍니다.

모범 사례

  1. 어시스턴트가 잘할 수 있는 주제를 고릅니다. 무선 네트워크에 연결하는 방법처럼 답이 분명한 잦고, 단순하고, 위험이 낮은 질문으로 시작하세요. 처음에는 민감하거나 부담이 큰 주제를 피하세요.
  2. 검토된 문서에 답을 근거하게 합니다. 지식 기반에서 검색해 쓰고 출처를 보여 주세요. 어떤 출처도 답을 뒷받침하지 않으면 어시스턴트는 그렇게 말하고 사람을 제안해야 합니다.
  3. 사람에게 가는 경로를 분명히 합니다. 항상 분명한 "사람과 이야기하기" 선택지를 보여 주고, 대화를 첨부해 인계하세요. 절대 막지 마세요.
  4. 행동에는 신원을 검증합니다. 접근이나 데이터를 바꾸는 모든 일에는 채팅 밖에서 강력한 점검을 쓰고 어시스턴트가 할 수 있는 일을 제한하세요. 모든 행동을 기록하세요.
  5. AI임을 사용자에게 알립니다. 처음에 밝히고, 무엇을 도울 수 있고 없는지 말하고, 사람인 척하지 마세요.
  6. 시험 집합을 만들고 돌립니다. 어시스턴트가 거절해야 하는 것과 조작하려는 시도를 포함해 실제 티켓에서 현실적인 질문을 만드세요. 출시 전과 변경마다 집합을 돌리세요.
  7. 실제 대화를 읽습니다. 매주 대화의 표본, 특히 사용자가 떠나거나 사람을 요청한 대화를 검토하세요. 이를 문서, 흐름, 지시를 고치는 데 쓰세요.
  8. 이탈 방지만이 아니라 해결을 측정합니다. 후속 연락, 사용자 평점, 인계, 불만을 추적하세요. 기준선과 비교하세요.
  9. 모두를 포함합니다. 화면 낭독기와 다양한 언어 및 억양으로 시험하세요. 전화와 이메일 같은 다른 채널을 계속 제공하세요.
  10. 서비스로서 소유합니다. 오너, 예산, 개선 일정, 기반 모델이나 벤더가 바뀔 때 무엇을 할지에 대한 계획을 정하세요.

팀과 논의할 질문

사용자가 가장 많이 묻는 질문은 무엇이며, 그중 어느 것을 어시스턴트가 우리의 기존 문서로 믿을 만하게 답할 수 있습니까? 티켓 데이터를 쓰세요. 반복적인 질문의 짧은 목록이 예상됩니다. 문서의 정확성과 완전성을 확인하세요. 더 깊이 들어가려면, 첫 시험을 위해 질문 다섯 개를 고르세요.

어시스턴트가 절대 하거나 말해서는 안 되는 것은 무엇이며, 어떻게 시험합니까? 경계를 나열하세요. 검증 없는 접근 변경 금지, 법률이나 의료에 대한 조언 금지, 시점에 대한 약속 금지. 가장자리에 대한 의견 차이가 예상됩니다. 더 깊이 들어가려면, 각 경계를 시험으로 바꾸세요.

사용자가 좌절하거나 사람을 요청하면 어떻게 되며, 얼마나 걸립니까? 직접 해 보세요. 맥락의 공백과 지연이 예상됩니다. 더 깊이 들어가려면, 최대 시간과 표준 인계 형식에 합의하세요.

사용자가 단지 채팅을 멈춘 것이 아니라 필요한 답을 얻었음을 어떻게 알겠습니까? 척도를 요청하세요. "이탈 방지율"이 예상됩니다. 더 깊이 들어가려면, 후속 질문, 반복 연락 점검, 표본 검토에 합의하세요.

누가 이 어시스턴트를 쓸 수 있으며, 누구에게 실패할 수 있습니까? 장애, 언어 차이, 낮은 자신감을 가진 사람을 생각해 보세요. 고려되지 않은 집단이 있을 것으로 예상됩니다. 더 깊이 들어가려면, 그 집단의 실제 사용자 몇 명과 시험하세요.

대화에는 어떤 데이터가 담기며, 어디로 가고, 누가 읽을 수 있습니까? 데이터 흐름을 따라가 보세요. 벤더와 보존에 대한 놀라움이 예상됩니다. 더 깊이 들어가려면, 흐름을 적고 개인정보 보호 책임자에게 검토를 요청하세요.

실제 적용: 서비스 관리 사례

한 지역 보건 서비스의 IT 데스크는 약 12,000명의 임상 및 행정 직원을 지원합니다. 임상의가 로그인과 인쇄가 필요한 교대 시간에 전화가 몰리며 평균 대기는 9분입니다. 서비스 관리자는 직원 포털과 메시징 채널에 가상 에이전트를 제안합니다.

팀은 좁게 시작합니다. 6개월치 티켓에서 가장 흔한 "어떻게 하나요" 질문 15개를 가져와 임상 사용자와 함께 해당 문서를 검토하고, 불분명한 여덟 개를 다시 씁니다. 어시스턴트는 그 문서에서만 답합니다. 비밀번호 재설정에서는 혼자 행동하지 않고, 자체 검증을 사용하는 신원 시스템의 재설정 흐름으로 연결합니다. 배너가 AI 어시스턴트임을 밝히고, "사람과 이야기하기" 버튼이 요약과 함께 대화를 데스크 상담원에게 넘깁니다.

출시 전에 팀은 시험 질문 80개를 만듭니다. 15개 밖의 주제에 대한 질문, 예컨대 어시스턴트가 거절해야 하는 임상 조언과 지시를 드러내게 하려는 시도를 포함합니다. 첫 버전은 아홉 개 시험에서 실패하는데, 대부분 범위 밖의 질문에 답한 것입니다. 팀은 지시를 조이고 맞는 것이 없으면 사람에게 가게 하는 규칙을 더합니다. 첫 달에 어시스턴트는 대화 약 1,400건을 처리하고, 약 40퍼센트는 티켓 없이 끝나고 12퍼센트는 상담원에게 인계됩니다. 관리자는 매주 대화 100건을 읽습니다. 사용자가 문서에 아직 설명되지 않은 최근에 바뀐 로그인 화면에 대해 자주 묻는다는 것을 발견하고, 팀이 문서를 갱신합니다.

달라진 점은 피크 시간의 대기 시간이 줄고 상담원이 반복 질문에 쓰는 시간이 줄었다는 것입니다. 여전히 어려운 점은 일부 병동의 야간 근무자는 연결이 나빠 계속 전화한다는 것, 많은 직원이 쓰는 두 언어의 질문에 어시스턴트가 애를 먹는데 팀이 아직 적절한 시험 방법을 찾지 못했다는 것, 벤더의 가격이 대화량에 따라 커진다는 것입니다. 관리자는 번역된 문서와 분기별 비용 검토를 더합니다.

네 가지 관점

제품 및 전달 팀

어시스턴트는 적힌 것만 답할 수 있으므로 여러분의 변경에 대한 분명한 문서와 릴리스 노트를 제공하세요. 어시스턴트가 안전하게 호출할 수 있는, 자체 신원 점검이 있는 흐름을 만드세요.

서비스 및 운영 팀

어시스턴트의 품질을 소유하세요. 대화를 읽고, 문서를 고치고, 흐름을 개선하세요. 인계를 잘 처리하고 패턴을 제품 및 서비스 오너에게 보고하세요.

리더십과 거버넌스

경계를 정하고, 지식 작업과 시험에 재원을 대고, 이탈 방지만이 아니라 해결 척도를 요청하세요. 사람에게 가는 경로가 항상 있도록 하세요. 데이터와 법적 문제를 확인하세요.

고객과 사용자

AI와 이야기하고 있음을 알아야 하고, 언제든 사람에게로 넘어갈 수 있어야 하며, 같은 말을 되풀이하라는 요구를 받지 않아야 합니다. 답이 틀렸거나 도움이 되지 않았을 때 제공자에게 알리세요.

애자일, AI, 자동화, 분석

애자일

몇 가지 주제로 시작해 자주 릴리스하고, 실제 대화에서 배우고, 단계적으로 넓히세요. 무엇을 추가할지 검토하는 데 사용자와 상담원을 참여시키세요. 주의: 시험 없이 많은 주제를 빠르게 추가하면 틀린 답이 늘어나므로, 시험된 작은 묶음으로 추가하세요.

AI

어시스턴트에게는 오너, 시험 집합, 근거 있는 답, 표본 검토가 필요합니다. AI가 말하고 할 수 있는 것과 사람이 결정해야 하는 곳을 정하세요. 주의: 시험을 통과하도록 지시를 조정하면 어시스턴트가 취약해질 수 있으므로, 새로운 실제 질문으로 시험 집합을 갱신하세요. 주제 5.1 — 서비스 관리에서의 AI를 참조하세요.

자동화

어시스턴트를 일상적인 요청을 위한 정의된 흐름에 검증, 로그, 한도와 함께 연결해, 행동을 즉흥적으로 만들지 않고 촉발하게 하세요. 주의: 설득력 있는 메시지에 따라 행동할 수 있는 어시스턴트는 표적이 되므로, 권한을 좁게 유지하고 대역 외로 신원을 검증하세요. 주제 6.5 — 셀프서비스와 자동화된 이행을 참조하세요.

분석

질문받은 것, 답한 것, 거절한 것, 인계한 것, 포기된 것, 사용자 평점, 반복 연락, 해결된 접촉당 비용을 보세요. 주의: 높은 이탈 방지는 사용자가 포기했다는 뜻일 수 있고, 평점은 작고 스스로 선택한 집단에서 오므로, 표본 대화와 결합하세요. 주제 7.7 — 경험과 감성 분석과 서비스 관리 지표(Service Management Metrics) 책을 참조하세요.

흔한 실패 유형

  • 빠져나갈 길 없음. 사용자가 봇과 맴돕니다. 항상 맥락과 함께 사람을 제공하세요.
  • 기억에서 나온 답. 모델이 단계를 지어냅니다. 검토된 문서에 근거하고 확신이 없으면 거절하세요.
  • 성공으로 여겨진 이탈 방지. 사용자가 도움받지 못한 채 떠납니다. 해결과 반복 연락을 측정하세요.
  • 검증 없는 행동. 주장만으로 접근이 부여됩니다. 대역 외로 검증하고 기록하세요.
  • 숨겨진 봇. 사용자가 사람과 이야기한다고 생각합니다. AI임을 밝히세요.
  • 배제된 사용자. 화면 낭독기나 언어가 실패합니다. 실제 사용자와 시험하고 다른 채널을 유지하세요.
  • 낡은 지식. 어시스턴트가 오래된 문서를 인용합니다. 갱신을 변경과 연결하고 표본을 검토하세요.

성숙도 모델

영역 시작 발전 표준화 관리 오케스트레이션
범위와 설계 벤더가 제공하는 무엇이든 몇 가지 주제 정의된 주제, 경계, 흐름 대화 데이터로 범위를 조정한다 기능과 채널 전반에서 범위를 조율한다
근거와 지식 모델의 기억 일부 문서 출처를 보여 주는 검토된 문서 대화로 지식을 갱신한다 지식과 어시스턴트를 함께 지속적으로 개선한다
인계와 포용 숨겨져 있거나 형편없다 인계가 있다 맥락이 있는 눈에 띄는 인계, 접근성 시험 인계와 포용을 측정한다 채널, 언어, 능력 전반에서 경험이 일관된다
측정 양만 이탈 방지 해결, 반복 연락, 평점 표본과 추세를 정기적으로 검토한다 서비스 전반에서 성과를 비용 및 경험과 연결한다

체크리스트

  • 어시스턴트에 적합한 소수의 주제를 골랐다.
  • 답이 검토된 문서에 근거하며 출처를 보여 준다.
  • 눈에 띄는 "사람과 이야기하기" 선택지가 맥락과 함께 인계한다.
  • 어떤 행동이든 채팅 밖에서 신원을 검증한다.
  • 사용자에게 AI임을 알린다.
  • 시험 집합이 있고 변경 전후에 돌린다.
  • 매주 대화의 표본을 읽는다.
  • 접근성과 사용자가 쓰는 언어를 시험했다.

AI 프롬프트

티켓에서 시험 질문의 초안을 작성합니다.

Here are anonymized ticket titles and summaries from the past month: [paste]. Our assistant is allowed to answer these topics: [list].
Write 40 test questions based on the tickets: 25 inside the topics, 10 outside them that the assistant should decline, and 5 that try to make it ignore its rules. State the correct behavior for each. Do not include real personal data.
List what you are unsure of.

대화에서 실패 패턴을 검토합니다.

Here are transcripts of conversations where the user asked for a person or left unhelped, with personal data removed: [paste].
Group them into up to six patterns, count each, quote a short example, and list a possible fix to investigate. Do not blame the user.
List what you are unsure of.

검토를 위한 어시스턴트 지시를 작성합니다.

Our assistant helps staff of [type of organization] with [topics]. It must never: [list]. It must always: [list, such as offer a person and cite sources].
Draft instructions of under 250 words for the assistant, in plain language, including what to say when it does not know. Do not invent capabilities or sources.
List what you are unsure of.

AI 스킬

  • prompt-engineering: 어시스턴트의 지시를 설계하고 시험할 때 사용합니다.
  • service-catalog: 어시스턴트가 사용자의 요청을 도울 수 있는 범위를 정의할 때 사용합니다.
  • survey-design: 해결을 측정하는 사용자 피드백을 설계할 때 사용합니다.
  • getting-feedback: 사용자와 상담원의 피드백을 모을 때 사용합니다.

주요 출처

  • W3C, Web Content Accessibility Guidelines (WCAG): 접근 가능한 웹 콘텐츠를 위한 국제 표준으로, 채팅 인터페이스와 관련됩니다.
  • NIST, AI Risk Management Framework: AI 위험을 식별하고 관리하기 위한 구조.
  • Wikipedia, "Chatbot" and "Virtual assistant": 기술의 개관.
  • Wikipedia, "Prompt injection": 주된 보안 위험에 대한 배경.

참고 문헌

  1. Chatbot — Wikipedia — https://en.wikipedia.org/wiki/Chatbot
  2. Virtual assistant — Wikipedia — https://en.wikipedia.org/wiki/Virtual_assistant
  3. Conversational user interface — Wikipedia — https://en.wikipedia.org/wiki/Conversational_user_interface
  4. Retrieval-augmented generation — Wikipedia — https://en.wikipedia.org/wiki/Retrieval-augmented_generation
  5. Triage — Wikipedia — https://en.wikipedia.org/wiki/Triage
  6. Sentiment analysis — Wikipedia — https://en.wikipedia.org/wiki/Sentiment_analysis
  7. Accessibility — Wikipedia — https://en.wikipedia.org/wiki/Accessibility
  8. Web Content Accessibility Guidelines — Wikipedia — https://en.wikipedia.org/wiki/Web_Content_Accessibility_Guidelines
  9. Dark pattern — Wikipedia — https://en.wikipedia.org/wiki/Dark_pattern
  10. Prompt injection — Wikipedia — https://en.wikipedia.org/wiki/Prompt_injection
  11. Web Content Accessibility Guidelines (WCAG) overview — W3C — https://www.w3.org/WAI/standards-guidelines/wcag/