긴 AI 세션을 한 번이라도 깊게 써본 사람이라면 이 순간을 알 것이다. 스무 번쯤 주고받으며 어렵게 내린 설계 결정, 시도해보고 버린 선택지들, 맥락을 쌓고 또 쌓아 올린 대화의 흐름—그리고 어느 순간, 아무 예고 없이 AI가 '이전 대화를 요약했습니다'라고 말하는 장면. 컨텍스트 창이 꽉 찼고, 무언가는 사라져야 했다. 무엇이 살아남고 무엇이 지워졌는지, 사용자는 알 수 없다.
이것이 컨텍스트 압축(context compaction)의 현실이다. 코딩 에이전트는 이를 auto-compact라 부르고, 에이전트 프레임워크는 condenser라 부른다. 이름은 달라도 구조는 같다. 세션에서 가장 결정적인 편집이 기계에 의해, 보이지 않는 곳에서 이루어진다. "사용자가 여러 옵션을 탐색했다"는 한 줄로 압축된 결정이 그 뒤의 모든 응답을 조용히 왜곡할 수 있다. 그리고 아무도 그 사실을 모른다.
여기서 흥미로운 질문이 생긴다. 이 압축을 사용자가 볼 수 있는 곳에서 일어나게 할 수 있을까? dev.to에서 소개된 ThoughtDAG는 그 질문에 정면으로 답하는 실험적 도구다. 이 도구의 핵심 전제는 하나다: 대화의 연결 구조 자체가 컨텍스트다. 모든 답변은 노드이고, 노드를 잇는 엣지가 AI가 다음 질문에서 '무엇을 볼지'를 결정한다. 엣지를 하나 지우면, 다른 답변이 나온다. 이 구조 위에서 압축을 설계하면 전혀 다른 경험이 가능해진다.
ThoughtDAG의 압축 방식에서 주목할 것은 두 가지다. 첫째, 압축 대상을 AI가 아니라 구조가 결정한다. 앞뒤로 가지가 없는 직선형 대화 흐름—'이 방법 해봐, 그럼 이건 어때, 좋아 다음으로'처럼 단순히 앞으로만 나아가는 구간—을 그래프 탐색으로 식별하고, 사용자에게 목록으로 보여준다. AI 모델이 '이게 중요한가'를 판단하지 않는다. 구조가 판단한다. 둘째, 원본은 절대 건드리지 않는다. 압축은 원본 트리 옆에 새로운 트리를 나란히 만드는 방식으로 이루어진다. 사용자는 두 버전을 같은 캔버스에서 동시에 볼 수 있고, 같은 질문을 양쪽에 던져 답이 일치하는지 직접 비교할 수 있다.
이 설계에서 특히 눈에 띄는 것은 '무엇을 압축하지 않을지'에 대한 원칙이다. 사용자가 내린 결정과 방향 전환은 랜드마크로 지정되어 전문 노드로 보존된다. 사용자가 직접 강조 표시한 텍스트는 한 글자도 요약되지 않고 그대로 살아남는다. 지금 작업 중인 최근 세 단계는 압축 대상에서 아예 제외된다. 그리고 모든 압축 노드에는 원본으로 돌아가는 출처 링크가 달린다. 이 원칙들의 방향은 하나다: 기계가 말한 것은 압축할 수 있지만, 인간이 중요하다고 표시한 것은 그대로여야 한다.
이 접근이 의미 있는 이유는 단순히 투명성의 문제가 아니다. 편집 권한이 사용자에게 있을 때, 비로소 검증이 가능해진다. 압축된 버전이 실제로 중요한 정보를 보존하는지를 '믿음'이 아니라 '비교 실험'으로 확인할 수 있다. 이것은 AI 도구 신뢰의 구조 자체를 바꾼다. 블랙박스 요약기를 신뢰하는 것과, 두 버전을 직접 비교하고 증거로 신뢰를 획득하는 것은 전혀 다른 경험이다.
이 이슈를 더 긴박하게 만드는 배경이 있다. AI 가격 인하 경쟁이 가속되면서 더 많은 팀이, 더 오래, 더 깊이 AI를 쓰기 시작했다. OpenAI는 최근 GPT-5.6 라인업의 Luna 모델 가격을 80%까지 인하했고, Terra 역시 주요 경쟁 모델 대비 경쟁력 있는 가격으로 내려왔다. Anthropic의 Claude Sonnet 5, Moonshot AI의 Kimi K3와 벌이는 이 가격 전쟁은 단순한 할인이 아니라 "AI를 더 많이, 더 길게, 더 무겁게 쓰라"는 시장 신호다. 더 많이 쓸수록 컨텍스트 창은 더 빨리 한계에 부딪히고, 압축은 더 자주 일어난다. 즉, 가격이 내려갈수록 컨텍스트 관리 문제는 더 가까운 현실이 된다.
프론트엔드·UX 설계자 입장에서 이 문제는 기술 과제 이전에 인터랙션 패턴 설계의 문제다. 지금 대부분의 AI 채팅 UI는 압축이 일어났다는 사실을 전달하지 않거나, 전달하더라도 "이전 대화가 요약되었습니다" 한 줄로 끝낸다. 사용자는 무엇이 사라졌는지, 자신이 중요하게 생각하는 맥락이 살아있는지 알 방법이 없다. 이것은 단순한 정보 부재가 아니라 신뢰 설계의 공백이다. ThoughtDAG가 제시하는 그래프 기반 시각화가 모든 제품에 맞는 해법은 아니겠지만, 그것이 던지는 질문—압축이 일어날 때 사용자는 무엇을 보고, 무엇을 선택할 수 있어야 하는가—은 AI 제품을 만드는 모든 팀이 피할 수 없는 설계 과제다.
앞으로 AI 에이전트가 더 긴 작업을, 더 자율적으로 수행하게 될수록, 이 문제는 채팅 UI를 넘어 에이전트 워크플로우 전반으로 확산된다. 에이전트가 수십 단계를 거쳐 내린 판단이 어느 시점에 조용히 압축되고, 그 압축된 맥락 위에서 다음 행동이 이어진다면—그리고 사용자는 그 사실을 알지 못한다면—우리는 지금보다 훨씬 큰 신뢰 위기를 마주하게 될 것이다. 컨텍스트 압축을 사용자가 볼 수 있는 곳에서 일어나게 하는 것, 그것은 UX 개선이 아니라 AI 제품의 기본 책임에 가까워지고 있다.