VietPOS.AI, 50개 편의점 체인을 위한 RAG 지식 어시스턴트 도입

2026년 1월 초, VietPOS.AI가 남부 지역 50개 편의점 체인에 RAG(Retrieval-Augmented Generation) 시스템(내부 지식 비서) 구축을 완료했습니다. 이는 베트남에서 처음으로 RAG를 고객 챗봇이 아닌 매장 운영 지원에 적용한 기업용 AI 프로젝트 중 하나입니다.

문제: 신입 직원이 200페이지가 넘는 정책을 숙지하지 못함

이 편의점 체인은 업계 특성상 직원 이직률이 높습니다. 각 신입 직원은 근무 시작 시 200페이지가 넘는 문서(반품 정책, 잘못된 청구서 처리 절차, 매주 변경되는 판촉 상품 목록, 개점/폐점 절차, 고객 불만 처리 등)를 숙지해야 합니다. 실제로 신입 직원은 낯선 상황에 직면할 때마다 매장 관리자나 콜센터에 전화해야 하며, 이는 서비스 중단과 지원팀의 업무 부담으로 이어집니다.

VietPOS.AI는 자연스러운 베트남어로 체인의 모든 내부 문서를 조회할 수 있는 지식 비서를 구축하여 이 문제를 해결했습니다. 이 비서는 매장 POS 태블릿에 사전 설치되어 있습니다. 직원이 “고객이 8일 전에 산 셔츠를 다른 사이즈로 교환하려는데 가능한가요?”라고 입력하거나 말하면, 시스템이 3~5초 이내에 정확한 답변과 함께 증빙을 위한 원본 정책 구절을 제공합니다.

2계층 RAG 아키텍처

시스템은 속도와 정확성의 균형을 맞추기 위해 2계층으로 설계되었습니다.

1계층 — 검색(Retrieval): 베트남어에 최적화된 임베딩 모델(베트남 소매 업계의 50,000개 샘플 질문으로 미세 조정)이 모든 내부 문서를 색인화합니다. 질문이 들어오면 시스템은 가장 관련성 높은 5~8개의 문서 구절을 검색합니다.

2계층 — 생성(Generation): 언어 모델이 검색된 문서 구절을 기반으로 자연스러운 답변을 생성하며, 각 출처 구절에 대한 명확한 인용을 포함합니다. 답변은 간결하고 체인 내부 어조에 맞으며, 소매 체인이 절대 용납하지 않는 ‘환각(hallucination)’ 현상을 방지합니다.

전체 시스템은 호치민시에 있는 체인의 데이터 센터에 위치한 엣지 서버에서 실행됩니다. 공용 클라우드는 사용하지 않습니다. 이는 내부 정책 데이터가 해외 AI 업체로 유출되는 것을 방지하기 위한 체인 경영진의 필수 요구 사항입니다.

12주 배포 프로세스

프로젝트는 4단계로 진행되었습니다. (1) 내부 문서 조사 및 정리 — 4주; (2) 인프라 구축 및 색인화 — 3주; (3) 체인의 샘플 질문 세트를 사용한 교육 및 품질 평가 — 3주; (4) 단계적 배포: 5개 매장 파일럿 → 20개 매장 → 50개 매장 — 2주. 계약 체결부터 정식 운영까지 총 12주가 소요되었습니다.

(3)단계는 가장 시간이 많이 소요되고 성패를 좌우하는 단계입니다. VietPOS.AI와 체인 팀은 실제 상황을 포괄하는 500개의 샘플 질문 세트를 함께 구축하고, 답변 정확도를 확인하며, 허용 기준(질문의 90% 이상이 정확한 답변과 인용 제공)에 도달할 때까지 프롬프트를 미세 조정했습니다.

Hai tháng vận hành 후 결과

운영 체인 측의 피드백에 따르면, 처음 두 달 동안 매장에서 헬프데스크로 걸려오는 전화 건수가 약 60% 감소했습니다. “익숙하지 않은” 상황을 처리하는 시간은 810분(헬프데스크 대기 + 설명)에서 12분(어시스턴트를 통한 조회)으로 단축되었습니다. 신입 직원들은 2주간의 집중 교육이 필요했던 것과 달리, 두 번째 근무 교대부터 더 자신감 있게 업무를 수행합니다.

VietPOS.AI는 현재 각각 30개 및 80개 매장 규모의 다른 두 소매 체인에 대한 도입 협상을 진행 중입니다. 관심 있는 기업은 vietpos.ai에서 상담을 신청할 수 있습니다.