어느 날 아침, 팀원이 Cursor 청구서 스크린샷을 슬랙에 올렸다. 금액은 2,000달러. 텍스트 에디터 요금이 월세를 넘은 것이다. dev.to에 공유된 이 사례는 순식간에 퍼졌고, 댓글에는 비슷한 경험담이 쏟아졌다. Cursor 3가 도입한 병렬 클라우드 에이전트는 사용자가 작업을 실행하는 순간 여러 스레드로 퍼져나가며 토큰과 컴퓨팅 자원을 소비한다. 미터는 돌아가고 있었지만, 경고는 없었다.
"가격 페이지를 읽었어야지"라는 반응은 틀렸다. 문제의 본질은 사용자의 부주의가 아니다. 도구가 설계된 방식 자체가 문제다. AI 코딩 도구는 사용자가 더 많이, 더 깊이 쓰도록 설계된다. 그런데 사용량 기반 과금 모델은 그 행동을 그대로 비용으로 전환한다. 멈출 타이밍을 알려주는 피드백 루프가 없다. 흐름 상태(flow state)에서 기능을 쌓다 보면, 청구서는 다음 달에나 온다. 팀 리드 입장에서 이건 단순한 UX 문제가 아니다. 예산 통제 불가능 상태다.
그렇다면 어떤 도구가 실제로 비용 효율적인가. 최근 dev.to에 공개된 LLM 에이전트 코딩 벤치마크(benchmarks.workswithagents.dev)는 이 질문에 데이터로 답한다. 파일 파싱, SQL 쿼리, 비동기 HTTP 등 실제 에이전트 작업 10개를 10개 모델에 돌린 결과, 총 비용은 100회 API 호출에 0.19달러였다. 1위는 Claude Sonnet 4(83%, 회당 0.019달러). 그런데 진짜 주목할 숫자는 2위다. Gemma 4 31B는 80% 정확도에 회당 0.001달러, Mistral Large 3는 Claude 정확도의 98%를 10% 비용으로 달성했다. 반면 GPT-5.5는 Claude보다 3배 비싸면서 정확도는 58%에 그쳤다. 비용이 높다고 성능이 좋은 게 아니다. 에이전트 코딩 컨텍스트에서는 더욱 그렇다.
비용 문제는 모델 선택에서 끝나지 않는다. 이미 도구를 운영 중이라면 토큰 사용 구조를 들여다봐야 한다. dev.to에 공유된 한 사례는 월 LLM API 비용이 5,368파운드까지 치솟은 고객 서비스 챗봇 팀의 이야기다. 원인은 단순했다. 대화가 30턴을 넘어가면 매 요청마다 전체 메시지 히스토리를 컨텍스트에 담아 API를 호출했고, 90%는 이미 처리된 동일한 내용이었다. 해결책은 컨텍스트 캐싱이었다. 메시지 프리픽스를 해시 키로 저장하고, 동일한 대화 분기가 재등장하면 마지막 어시스턴트 응답만 재사용하는 구조를 구현했다. 결과는 일일 토큰 소비량 100만에서 10만으로 감소, 비용 90% 절감, API 지연 3.2초에서 0.4초로 단축이었다.
세 사례를 나란히 놓으면 패턴이 보인다. Cursor의 예상 청구서는 도구 도입 전 비용 구조를 설계하지 않은 결과다. 벤치마크는 모델 선택 단계에서 비용 대비 성능을 검증하지 않으면 3배 비싼 도구를 쓰면서도 성능은 낮아지는 역설에 빠진다는 걸 보여준다. 컨텍스트 캐싱 사례는 운영 단계에서 토큰 흐름을 구조적으로 최적화하지 않으면 비용은 선형이 아닌 지수로 증가한다는 걸 보여준다. 공통점은 하나다. 비용은 나중에 관리하는 게 아니라 처음부터 설계해야 한다.
팀 리드로서 AI 도구를 도입할 때 내가 먼저 챙기는 체크리스트는 세 가지다. 첫째, 과금 모델의 노출 지점. 사용량 기반인가 정액제인가. 사용량 기반이라면 상한선(spending cap)이 설정 가능한가. 에이전트가 병렬로 실행될 때 비용은 어떻게 산정되는가. 둘째, 모델 선택의 비용 효율성. 정확도-비용 트레이드오프를 실제 워크플로우 기준으로 측정했는가. 고비용 프리미엄 모델이 반드시 팀의 태스크에 적합하지 않을 수 있다. 셋째, 운영 단계의 토큰 구조. 반복 컨텍스트를 캐싱하고 있는가. 스트리밍과 배치 처리의 비용 차이를 인지하고 있는가.
정액제가 시장을 이길 것이라는 주장은 설득력이 있다. Netflix가 pay-per-view를 이긴 것처럼, 예측 가능한 비용은 팀의 심리적 안전감을 만들고, 안전감은 도구의 자유로운 활용으로 이어진다. Claude Code가 정액 구독 모델로 시장에 자리를 잡아가는 이유다. 하지만 팀 리드 입장에서 정액제도 무조건 안심할 수 없다. 정액제 안에서 에이전트 실행 횟수나 컴퓨팅 리소스에 제한이 숨어 있는 경우가 많다. 계약서의 가격 페이지를 직접 읽어야 하는 건 팀원이 아니라 리드의 몫이다.
AI 도구 비용은 이제 인프라 비용과 같은 층위에서 다뤄야 한다. AWS EC2 인스턴스 타입을 고를 때처럼, LLM 모델과 AI 도구를 선택할 때도 비용 프로파일을 먼저 설계해야 한다. 에이전트가 팀의 워크플로우에 깊이 들어올수록 이 설계의 부재는 조용히, 그러나 빠르게 팀의 예산을 잠식한다. Cursor의 2,000달러 청구서는 경고다. 다음 청구서가 우리 팀에 오기 전에, 비용 설계를 도구 도입 체크리스트의 첫 번째 항목으로 올려야 한다.