고객 서비스 전체 프로세스 에이전트 루프
결코 줄어들지 않는 지원 대기열.
동남아시아 최고의 SaaS 플랫폼인 우리 클라이언트는 웹 채팅, 모바일 앱, 이메일 및 소셜 메시징 채널을 통해 매달 500,000건 이상의 고객 서비스 대화를 처리합니다. 이들의 지원 작전은 영구적인 추격 상태에 빠졌다.
일선 상담원 중 다수는 새로 고용되어 아직 제품을 배우고 있는 사람들로, 동일한 질문에 대해 누가 온라인에 있는지에 따라 일관되지 않은 답변을 제공했습니다. 복잡한 문제에는 L1에서 L2에서 엔지니어링으로의 여러 에스컬레이션 핸드오프가 필요했습니다. 각 핸드오프는 시간을 추가하고 컨텍스트를 잃습니다. 설명서 팀이 기사를 업데이트하는 것보다 제품이 새로운 기능을 더 빨리 제공했기 때문에 수동으로 유지 관리되는 지식 기반은 영원히 구식이었습니다.
'챗봇 업그레이드'가 고객 서비스 문제를 해결하지 못하는 이유
클라이언트는 3세대에 걸쳐 챗봇 공급업체를 순환했습니다. 각각은 동일한 운영 벽에 부딪혔습니다.
- 1.막다른 골목의 대화 문제: 챗봇은 간단한 FAQ에 답변할 수 있지만 아무 것도 할 수 없습니다. '비밀번호를 어떻게 재설정하나요?' 일했다. '비밀번호를 재설정하고 확인 메시지를 보내주세요'는 그렇지 않았습니다. 봇은 작업을 실행할 수 없으며 도움말 항목만 가리킬 수 있습니다.
- 2.확대되는 블랙홀: 챗봇이 실패하면 상담원에게 에스컬레이션하면 모든 컨텍스트가 손실됩니다. 고객은 문제를 처음부터 다시 설명해야 했습니다. 인간 에이전트는 봇이 이미 시도한 작업을 전혀 볼 수 없었습니다.
- 3.오분류세: 기존 시스템은 키워드 매칭을 통해 티켓을 분류하여 오분류율이 30% 이상입니다. 기술 지원에 청구 관련 질문이 접수되었습니다. 기능 요청이 버그 팀으로 전달되었습니다. 경로가 잘못될 때마다 해결 시간이 몇 시간씩 추가되었습니다.
- 4.정액 비용 문제: 모든 대화 - 간단한 '시간은 어떻게 되나요?' 또는 복잡한 다단계 계정 마이그레이션 — 동일한 비용으로 동일한 AI 리소스를 소비했습니다. 한 달에 500,000개의 대화로 경제적으로 깨졌습니다.
챗봇에서 폐쇄 루프 해결 엔진까지.
지원은 답변 생성에서 폐쇄 루프 해결, 에스컬레이션 컨텍스트 및 지식 복구로 이동합니다.
I. 인텐트 라우팅 계층(3티어)
L1 분류(Haiku): 최소 비용으로 200ms 이내에 쿼리를 즉시 최상위 버킷으로 분류합니다. L2 Understanding(Sonnet): 전체 의도를 구문 분석하고, 엔터티를 추출하고, 해결 경로를 결정합니다. L3 Action Planning(Opus, 필요한 경우): 복잡한 다단계 문제의 경우 단계별 해결 계획을 생성합니다.
II. 에이전트 실행 계층(에이전트 4개)
지식 검색 에이전트는 RAG 지식 기반에서 최신 문서를 쿼리합니다. 도구 호출 에이전트는 MCP 연결 시스템을 통해 작업을 실행합니다(비밀번호 재설정, 환불 처리, 구독 업그레이드). 티켓 관리 에이전트는 전체 컨텍스트를 바탕으로 티켓을 만들고 업데이트합니다. 에스컬레이션 라우팅 에이전트는 기록, 시도한 해결 방법, 시스템 상태 및 권장되는 다음 단계 등 완전한 컨텍스트 패키지를 사용하여 복잡한 문제를 인간 에이전트에게 전달합니다.
III. 자가 치유 지식 계층
나쁜 사례 감지는 대화에서 부정적인 피드백이나 에스컬레이션이 발생하면 실패 패턴을 자동으로 기록합니다. 지식 격차 식별은 문서화 팀의 신뢰도가 낮은 검색 결과를 표시합니다. 자동 업데이트 파이프라인은 제품 변경 로그와 릴리스 노트를 수집하여 지식 기반 문서로 변환하여 각 제품 릴리스에 따라 시스템을 최신 상태로 유지합니다.
IV. MCP + Token101
모든 에이전트는 통합 MCP 레이어를 통해 고객의 기존 CRM, 발권 시스템, 결제 프로세서 및 제품 API에 연결됩니다. 기존 시스템을 변경할 필요가 없습니다. Token101 계층형 라우팅: Haiku에 대한 간단한 쿼리, Sonnet에 대한 표준 지원, Opus에 대한 복잡한 결정. 결과: API 비용이 약 45% 감소했습니다.
대응부터 해결까지.
"우리는 단지 고객과 대화하는 것이 아니라 의도에서 해결까지 루프를 닫습니다."
관련 구현 개요.
Claude 3 Opus
인지 추천자 아키텍처
Claude 인지 컨트롤러는 기존의 높은 처리량 추천 스택을 교체하지 않고도 프리미엄 콘텐츠 검색 및 추천 설명 가능성을 향상했습니다.
다중 모델 캐스케이드 + Edge DLP
풀 프로세스 의료 AI
사전 상담, 진단 지원, 약물 상호 작용 확인 및 후속 관리를 포괄하는 7개 에이전트 전체 수명 주기 의료 AI 시스템으로 HIPAA 아키텍처를 사용하고 6개월 동안 심각한 환각 현상이 발생하지 않습니다.
엣지 SFT 7B 모델
자율 산업 제어 에이전트
엣지에 배포된 자율 제어 시스템은 하드코딩된 PLC 로직을 도메인 조정 7B 모델 및 실제 SOP로 대체하여 클라우드 종속성 없이 실시간 이상 추론을 가능하게 했습니다.