상담 자동화는 흔히 ‘CS 비용 절감’으로만 이야기되지만, 그로스 관점에선 CAC를 직접 깎는 레버다. 운영비가 내려가면 가격(프로모션)·마케팅(집행)·세일즈(인력)로 재투자할 여력이 생기고, 동일 예산으로 더 많은 신규 유저를 데려올 수 있다. 게다가 상담 응답 속도와 해결률이 오르면 가입 직후 불안/마찰이 줄어 Activation과 리텐션까지 같이 움직인다.
ZDNet은 센드버드가 노스 애틀랜틱 항공과 협력해 AI 에이전트 도입 2주 만에 상담 자동 해결률을 60%→80%로 끌어올렸다고 전했다. 항공은 예약 변경·환불·지연/취소 등 변수가 많아 ‘자동화가 깨지기 쉬운’ 산업인데도, 단기간에 수치가 튄 건 포인트다. 여기서 배울 점은 모델이 똑똑해서가 아니라, 워크플로 전체를 다시 짰다는 데 있다. 반복 문의는 AI가 선점하고, 상담원은 예외·고난도로 재배치했다. 즉 “봇을 얹었다”가 아니라 “퍼널을 재설계했다”에 가깝다.
CAC 관점에서 상담 에이전트의 임팩트는 두 갈래다. (1) 직접 효과: 티켓당 처리시간(AHT)과 인건비, 외주/야간 비용이 내려가며 CS OPEX가 감소한다. 그 절감분은 광고 CPM이 오르든 말든 버틸 수 있는 마진이 되고, 프로모션 여력으로 전환되면 CAC가 구조적으로 낮아진다. (2) 간접 효과: 지연/불확실성 때문에 구매를 미루거나 환불하는 전환 손실을 줄인다. 특히 결제 전·직후(온보딩/첫 사용) 문의를 AI가 즉시 처리하면 ‘결정 피로’가 줄어 전환율이 오른다. CAC는 분모(유입)보다 분자(획득 비용)만이 아니라, 전환율 변화로도 내려간다.
하지만 여기서 대부분이 놓치는 함정이 있다. 프로덕션 최적화(캐싱·재시도·비용 트래킹)는 ‘AI 기능’이 아니라 단위경제와 신뢰를 지키는 장치다. Dev.to에서 공유된 Cloudflare AI Gateway 캐싱 실패 분석은 이를 적나라하게 보여준다. 기본 ‘정확히 동일한 요청’ 기준 캐시는 requestId·timestamp 같은 노이즈 때문에 대부분의 요청을 캐시 미스로 만들고, 결국 동일 문의에도 매번 토큰 비용과 500~900ms 지연을 다시 지불하게 된다. 상담은 반복 질문이 많은데, 캐싱이 무너지면 LLM COGS가 CAC 절감분을 먹어치운다.
재시도도 마찬가지다. 또 다른 Dev.to 글은 잘못된 재시도(비재시도 에러까지 무차별 재호출)가 비용을 30% 이상 낭비하게 만들 수 있다고 말한다. CS 에이전트에선 이게 더 치명적이다. 실패→재시도→지연이 늘어나면 상담 경험이 악화되고, 결국 사람이 개입하면서 비용이 이중으로 든다(LLM 비용+상담원 비용). “자동화가 돈을 아끼는가?”는 모델 성능보다, 실패를 어떻게 ‘싸게’ 처리하느냐에 달려 있다.
실무 시사점은 명확하다. 첫째, 목표 지표를 ‘자동 해결률’ 하나로 두지 말고 AARRR에 걸어라: Activation 구간(가입~첫 결제/첫 탑승) 문의의 해결률·응답시간(p95)·에스컬레이션 비율을 별도로 본다. 둘째, 캐싱은 바이트 매칭이 아니라 의미 기반(노이즈 제거·유사질문 통합)으로 설계해 반복 문의에서 토큰 COGS를 잠근다. 셋째, 재시도는 “무조건”이 아니라 “에러 타입 분리+상한 비용”으로 통제한다(429/5xx만 재시도, 4xx는 즉시 실패 처리 등). 넷째, 비용 트래킹은 모델 단가가 아니라 ‘문의 유형(태스크)별’로 귀속시켜야 한다. 그래야 어떤 문의를 자동화해야 CAC가 실제로 내려가는지 우선순위가 선명해진다.
전망은 낙관적이지만, 승자는 ‘에이전트 도입’이 아니라 ‘운영 인프라화’에 성공한 팀이 될 가능성이 크다. 센드버드-항공 사례가 보여주듯, 변동성이 큰 도메인에서도 워크플로 재설계와 운영 최적화가 맞물리면 2주 단위로 성과가 난다. 앞으로 경쟁은 “우리도 챗봇 있어요”가 아니라, (1) 자동화가 늘수록 단위경제가 더 좋아지고(캐싱/라우팅/관측), (2) 실패해도 전환을 잃지 않으며(안전한 에스컬레이션/일관된 맥락), (3) 상담 데이터가 제품 개선으로 환류되는 팀이 CAC를 구조적으로 낮추는 게임으로 갈 것이다.