코레일이 외부 인터넷과 분리된 업무망에서 동작하는 사내 문서 검색 AI ‘에어파인더’를 구축했다는 소식(부산일보, 뉴스1)은, RAG가 이제 ‘생산성 도구’ 단계에서 한 칸 더 올라왔다는 신호로 보입니다. 핵심은 검색 품질이 아니라 보안/권한/출처를 제품 기능으로 만들어 ‘신뢰’를 납품했다는 점이에요. 이거, B2B에서는 곧바로 CAC를 깎는 장치가 됩니다.
맥락을 보면 더 재밌습니다. 코레일은 망분리 정책을 전제로, 내부 문서(규정·매뉴얼·보고서)만을 참조하는 지식검색 챗봇을 만들었고, 업무 목적에 따라 RAG(빠른 근거 검색+출처 제시)와 CAG(문서 전체 맥락 기반 비교/검토)를 직원이 선택하게 했습니다. 여기에 부서별 데이터 분리 저장, 인증 사용자만 접근, 출처 제시로 교차 검증까지 넣었죠. 즉 “똑똑한 답변”보다 “안전하게 쓸 수 있는 답변”에 방점을 찍었습니다.
여기서 그로스 포인트가 터집니다. 보안형 RAG는 보통 ‘내부 효율’ KPI로만 설명되는데, 실제로는 구매 퍼널의 마찰을 제거합니다. 보안/망분리 요구가 있는 고객(공공·금융·제조·엔터프라이즈)은 PoC 단계에서 항상 같은 질문을 던져요: 데이터 외부 유출 가능성? 권한 통제? 로그와 감사? 이 질문에 답을 못하면, 성능이 좋아도 세일즈가 멈춥니다. 반대로 이걸 제품에 내장하면 “법무/보안 검토 → 추가 미팅 → 문서 왕복”이 줄어들고, 세일즈 사이클이 압축돼요. CAC가 내려갈 수밖에 없습니다.
온보딩/리텐션 관점에서도 연결이 됩니다. RAG가 출처를 제시하면 사용자는 ‘맞다/틀리다’를 스스로 판정할 수 있어 첫 사용 신뢰가 올라가고, 환각(할루시네이션)으로 인한 초기 이탈이 줄어듭니다. 특히 코레일처럼 답변 방식을 ‘업무 책임 수준’에 맞게 선택하게 하면, 실수 비용이 큰 업무(규정/계약/안전)에서 사용 장벽이 내려가요. 저는 여기서 D7 리텐션이 꽤 오를 거라고 봅니다. “한 번 써보니 편한데”가 아니라 “이건 써도 안전하네”가 반복 사용의 이유가 되니까요.
전환율(유료/확산)도 건드릴 수 있습니다. 보안형 RAG의 진짜 무기는 ‘기능’이 아니라 세일즈 메시지의 단순화예요. “우리도 RAG 됩니다”가 아니라 “망분리/권한/감사로그/출처검증까지 기본값”이면, 경쟁사 대비 비교표에서 한 줄로 이깁니다. 이거 바이럴 될 것 같은데? 업계 커뮤니티에서 레퍼런스가 돌 때도 ‘성능’보다 ‘통과한 보안 조건’이 더 빨리 공유되거든요. 신뢰가 곧 추천을 만들고, 추천이 곧 CAC를 낮춥니다.
바로 실행해볼 성장 실험도 보입니다. (1) 리드 획득 랜딩에서 “외부 전송 0, 업무망 전용, 부서별 데이터 격리” 같은 보안 문구를 가치 제안(USP) 최상단에 올리고 CVR A/B 테스트. (2) PoC 제안서에 RAG/CAG를 ‘기술’이 아니라 ‘업무 시나리오’로 패키징(예: 규정 검색=RAG, 계약 검토=CAG)해 세일즈 콜당 다음 단계 전환율을 측정. (3) 제품 내에서는 출처 클릭률, 답변 재질문률, “확인 완료” 같은 마이크로 이벤트를 잡아 신뢰 기반 리텐션 코호트를 쪼개야 합니다. 빨리 테스트해봐야 돼요.
전망은 명확합니다. 2026년 이후 규제/컴플라이언스 압력이 커질수록(특히 EU AI Act 같은 흐름) ‘외부로 데이터를 보내는 AI’는 설명 비용이 증가합니다. 그 순간부터 보안형(온프렘/망분리/로컬 임베딩 포함) RAG는 기능이 아니라 획득 채널이 돼요. 성능 경쟁은 언젠가 평준화되지만, 신뢰는 표준이 되기 전까지 프리미엄입니다. 코레일 사례는 “공공기관도 됐다”는 레퍼런스로 시장의 불안을 한 번에 낮춥니다. 신뢰가 내려가면 검토가 빨라지고, 검토가 빨라지면 CAC는 같이 내려갑니다.