AI 제품에서 ‘신뢰(Trust)’는 감정의 문제가 아니라 숫자의 문제다. 결제 직전 유저가 묻는 건 “더 똑똑하냐”가 아니라 “이걸 써도 내가 손해 보지 않나”다. 그리고 이 질문에 대한 답이 불안하면, 기능 만족도가 높아도 전환은 멈추고 리텐션은 무너진다.
최근 Microsoft Copilot의 이용약관 논란(geeknews 인용)은 이 구조를 노골적으로 보여준다. Copilot을 “오락용(Entertainment purposes only)”으로 규정하고 결과의 정확성·적합성에 대해 광범위한 면책을 걸었다. 법무 리스크를 줄이는 문장일 수 있지만, 성장 관점에선 결제 퍼널에 ‘불신 팝업’을 박아넣는 행위다. 유저는 유료로 생산성 도구를 산다고 믿는데, 공급자는 약관에서 “중요한 결정에 쓰지 말라”고 말한다. 메시지의 자기모순이 신뢰 잔고를 깎는다.
여기에 GitHub Copilot이 Pull Request에 광고성 ‘tips’를 자동 삽입했다가 반발로 철회한 사건(theregister.com을 인용한 geeknews)이 기름을 부었다. 핵심은 “광고냐 아니냐”보다, 사용자가 의도하지 않은 개입이 워크플로우를 오염시켰다는 점이다. AI가 팀의 협업 산출물(PR)을 건드리는 순간, 제품은 ‘도구’가 아니라 ‘행위자’가 된다. 행위자가 되려면 권한·의도·보상이 투명해야 하는데, 광고 링크 삽입은 이 3가지를 한 번에 무너뜨렸다. 그 결과는 기능 철회라는 단기 조치로 끝나지 않는다. 가장 비싼 비용인 신뢰 회복 비용이 남는다.
반대로 Liner는 ‘생성보다 검색이 먼저’라는 포지셔닝으로 신뢰를 제품 코어에 심었다(더에이아이 인터뷰 기사). 4억6천만 건 학술 인덱스, RAG 기반, 벤치마크 점수(예: SimpleQA 95.3) 같은 메시지는 “내가 답을 만들기 전에 근거를 가져온다”는 약속이다. 즉, 신뢰를 UX의 부가 설명이 아니라 정확도/근거/재현성이라는 제품 정책으로 설계한 케이스다. 더 흥미로운 건 이 신뢰가 B2B2C 파트너십으로 확장되며 마케팅 지출 없이 사용자 저변을 넓히는 구조로 이어졌다는 점이다. 신뢰는 브랜드 자산이면서 동시에 채널 자산이다.
여기서 성장 시사점은 명확하다. AI 신뢰는 (1) 약관/정책, (2) UX에서의 권한 경계, (3) 메시지/포지셔닝의 일관성이라는 3개 레이어로 구성된다. 이 중 하나라도 깨지면 CAC가 올라간다. 추천이 줄고(바이럴 계수 하락), 리뷰가 나빠지고, 세일즈 사이클이 길어지며, CS/환불이 늘기 때문이다. 반대로 신뢰를 설계하면 전환율은 ‘카피 수정’이 아니라 구조적으로 오른다. 유저는 결제 버튼을 누르기 위해 확신이 필요하고, 그 확신은 보통 “정확하다”보다 “통제 가능하다/예측 가능하다”에서 나온다.
실행 관점에서 AI 제품팀이 당장 할 일은 신뢰를 KPI로 계량화하는 것이다. 예를 들어 결제 전환 퍼널에서 불신 신호를 이벤트로 잡아야 한다: 결과 검증을 위해 탭 이탈이 늘어나는 구간, ‘근거 보기’ 클릭률, 답변 수정 요청률, “이거 맞아?” 재질문율, 자동 삽입/자동 실행에 대한 되돌리기(undo) 사용률 등. Copilot 사례처럼 ‘면책 강화’가 법적 리스크를 줄일 수는 있어도, 그 문장이 전환률·D7 리텐션에 미치는 영향을 숫자로 확인해야 한다. 신뢰는 슬로건이 아니라 코호트 차이로 드러난다.
전망은 양극화다. 한쪽은 “AI를 모든 표면에 밀어 넣고(강제 노출), 광고/수익화를 끼워 넣는” 단기 매출형 전략으로 갈 것이다. 하지만 이 길은 신뢰 부채를 쌓아 장기적으로 이탈 비용을 키운다. 다른 한쪽은 Liner처럼 “정확도와 근거를 먼저 설계해, 파트너가 얹을 수 있는 신뢰 레이어”가 된다. 특히 에이전트화가 진행될수록(실행·수정·삽입) 신뢰는 더 비싸지고, 그만큼 먼저 확보한 팀이 CAC를 구조적으로 낮춘다.
결국 질문은 하나로 수렴한다. 당신의 AI는 ‘똑똑한 답변기’인가, 아니면 ‘신뢰 가능한 행위자’인가. 약관의 문장, UX의 권한, 수익화의 유혹이 이 답을 흔드는 순간—전환은 숫자로 즉시 반응한다.