Claude Code를 매일 쓰면서도 실제로 얼마를 쓰고 있는지 정확히 아는 개발자는 드물다. 구독료를 내고 있으니 '무제한'처럼 느껴지고, API를 직접 호출하는 게 아니니 토큰 개념은 어디선가 사라진다. 그런데 로컬 디스크에는 처음부터 모든 게 기록되어 있었다.
~/.claude/projects/ 경로를 열면 사용한 프로젝트마다 폴더가 생겨 있고, 그 안의 JSONL 파일에는 세션별 입력 토큰, 출력 토큰, 캐시 생성 토큰, 캐시 읽기 토큰이 메시지 단위로 남아 있다. Cursor, Windsurf, Cline, Aider, Continue도 마찬가지다. 도구마다 경로와 포맷은 다르지만, 모두 같은 정보를 조용히 쌓아두고 있다. dev.to에 공개된 분석 글에 따르면 jq 한 줄로 평생 누적 출력 토큰을 합산할 수 있고, 거기에 Anthropic 공개 단가를 곱하면 구독이 아닌 API 기준 환산 비용이 나온다. 많은 개발자가 처음 이 숫자를 보고 놀란다.
로그에서 가장 흥미로운 숫자는 cache_read_input_tokens다. 길게 이어지는 에이전트 세션에서 캐시 읽기 토큰은 전체 토큰의 95% 이상을 차지하는 경우가 흔하다. 캐시 읽기 단가는 일반 입력의 10분의 1 수준이다. 긴 컨텍스트를 유지하면서도 에이전트 방식의 코딩이 현실적으로 돌아가는 이유가 여기 있다. 비용 구조를 이해하면 도구를 쓰는 방식 자체가 달라진다. 짧은 세션을 반복하는 것보다 하나의 긴 세션을 유지하는 편이 캐시 효율 면에서 유리하다는 것도 로그를 읽어야 체감할 수 있다.
그런데 비용 가시성을 확보했다고 해서 AI 도구를 '제대로 쓰는' 것이 완성되는 건 아니다. 개인 개발자 수준에서는 로컬 로그 분석으로 충분할 수 있지만, AI 기반 기능을 프로덕션에 붙이는 순간 완전히 다른 층위의 문제가 열린다. dev.to의 또 다른 글은 이 지점을 정확히 짚는다. LLM을 'AI 모델'로 생각하는 한 프로덕션 장애를 피할 수 없다는 것, 처음부터 '분산 시스템의 한 노드'로 바라봐야 한다는 시각 전환이다.
실제로 LLM API 호출은 단순한 함수 호출이 아니다. 요청은 API 게이트웨이, 인증, 요청 큐, 검색 엔진과 캐시 체크, 프롬프트 빌더를 거쳐 모델에 닿고, 응답은 후처리를 지나 스트림으로 사용자에게 도달한다. 모델은 이 파이프라인의 한 박스일 뿐이다. 트래픽 스파이크가 오면 큐 없이 API를 직접 호출하는 구조는 레이트 리밋에 즉시 무너진다. 같은 질문이 반복되는데 캐싱이 없으면 비용은 곱절로 쌓인다. 응답에 12초가 걸리더라도 스트리밍으로 첫 토큰을 1초 안에 보내면 사용자가 느끼는 경험은 완전히 달라진다.
두 문제는 표면적으로 달라 보이지만 같은 질문을 가리킨다. 'AI 도구가 지금 어떻게 동작하고 있는가'를 얼마나 깊이 이해하느냐의 문제다. 로컬 로그에서 캐시 토큰 비율을 읽는 것과, 프로덕션 파이프라인에서 캐시 히트율을 설계하는 것은 추상화 레벨이 다르지만 본질적으로 같은 사고방식을 요구한다. 블랙박스로 두는 순간 비용도, 안정성도, 성능도 통제권 밖으로 나간다.
프론트엔드 개발자로서 솔직히 말하면, AI 기능을 붙이는 일이 생각보다 쉬워지면서 오히려 함정이 깊어졌다고 느낀다. v0.dev나 Claude로 UI를 빠르게 뽑아내고, API 키 하나로 LLM을 연결하면 프로토타입은 금방 완성된다. 문제는 그 시점에 '시스템'을 설계했다는 착각이 생긴다는 것이다. 실제 사용자가 들어오기 전까지는 큐도, 캐싱도, 재시도 로직도 없어도 잘 돌아가는 것처럼 보인다. 로컬 로그를 들여다보는 습관, 그리고 LLM을 분산 시스템의 부품으로 바라보는 시각은 이 착각을 깨는 두 개의 서로 다른 도구다.
앞으로 AI 코딩 도구의 사용량은 더 늘어날 것이고, 도구들은 더 많은 것을 자동으로 처리해줄 것이다. 그럴수록 내부 동작을 이해하는 개발자와 그렇지 않은 개발자의 격차는 좁아지는 게 아니라 오히려 벌어진다. 도구가 복잡해질수록 '그냥 쓰는 것'과 '이해하며 쓰는 것'의 결과물 차이가 더 극명하게 드러나기 때문이다. 터미널에서 ls ~/.claude/projects/를 한 번 실행해보는 것, 그리고 자신의 AI 기반 기능을 파이프라인 다이어그램으로 한 번 그려보는 것—두 행동은 작지만 그 출발점으로 충분하다.