AI 토큰 비용 줄이는 법, 모델보다 넘기는 자료를 줄인다
도구 목록, 중간 결과, 출력 형식. 모델을 바꾸기 전에 줄일 곳 셋
더블테이크 노아 - 4분 분량 - 처음 쓴 날
AI 토큰 비용 줄이는 법
AI 토큰 비용은 모델을 바꾸기 전에 에이전트에게 넘기는 자료를 줄이는 것만으로 크게 내려간다. 국내 팀 기록에서 효과가 컸던 곳은 도구 목록, 중간 데이터, 출력 형식이었다. LY 워크숍 시연에서는 이 세 곳을 손봐 전체 토큰을 40.7% 줄였다.
토큰은 어디서 새나?
에이전트는 매번 대화 전체와 쓸 수 있는 도구 설명, 도구가 돌려준 결과를 함께 읽는다. 질문이 짧아도 이 짐이 크면 토큰이 많이 든다.
LY의 이노우에 슈이치 님은 이 점을 경고했다. "토큰 수를 의식하지 않고 사용하면 자기도 모르게 많은 토큰을 사용해 큰 비용이 청구될 위험이 있습니다."[1]
LINE Android 앱을 맡은 차영호 님도 같은 문제를 겪었다. 큰 코드베이스를 텍스트 전체 검색으로 훑으면 에이전트가 토큰을 지나치게 쓴다[4].
어떤 방법이 얼마나 줄였나?
도구 필터, 서브에이전트, 입출력 스키마
- 기록
- LY ADK 워크숍 [1]
- 줄인 것
- 컨텍스트 사용 77.7%, 전체 토큰 40.7%
- 읽을 때 주의
- 첫 버전과 비교한 시연 수치
API 문서를 미리 가공해 넘기기
- 기록
- 우아한형제들 하네스 [2]
- 줄인 것
- 41,944바이트에서 1,763바이트
- 읽을 때 주의
- 토큰 절감률은 글쓴이의 추정치
명세를 JSON DSL로
- 기록
- 컬리 OMS [3]
- 줄인 것
- 자연어 대비 토큰 3분의 1
- 읽을 때 주의
- 구조가 있는 정보에 한함
긴 오류를 짧게 정리하는 래퍼
- 기록
- LY Android [4]
- 줄인 것
- 에이전트가 읽는 출력
- 읽을 때 주의
- 수치는 없음
| 방법 | 기록 | 줄인 것 | 읽을 때 주의 |
|---|---|---|---|
| 도구 필터, 서브에이전트, 입출력 스키마 | LY ADK 워크숍 [1] | 컨텍스트 사용 77.7%, 전체 토큰 40.7% | 첫 버전과 비교한 시연 수치 |
| API 문서를 미리 가공해 넘기기 | 우아한형제들 하네스 [2] | 41,944바이트에서 1,763바이트 | 토큰 절감률은 글쓴이의 추정치 |
| 명세를 JSON DSL로 | 컬리 OMS [3] | 자연어 대비 토큰 3분의 1 | 구조가 있는 정보에 한함 |
| 긴 오류를 짧게 정리하는 래퍼 | LY Android [4] | 에이전트가 읽는 출력 | 수치는 없음 |
도구 목록과 중간 결과는 어떻게 줄이나?
이노우에 슈이치 님은 세 가지를 묶었다. 쓸 도구만 골라 보여 주는 필터, 중간 작업을 서브에이전트 안에 가두는 캡슐화, 입력과 출력을 정해진 스키마로 받는 방식이다. 그는 이렇게 적었다. "코드만 보면 큰 변화가 아니었지만 tool_filter, AgentTool, 스키마 구조화, 이 세 가지 기술을 결합하는 것만으로 상당한 토큰을 줄일 수 있었습니다."[1]
40.7%는 워크숍에서 첫 버전과 고친 버전을 비교한 수치다. 서비스 운영 실적으로 옮겨 읽으면 안 된다.
넘기는 문서는 어떻게 줄이나?
우아한형제들 이재홍 님은 Swagger 문서를 AI에게 그대로 주지 않고 필요한 것만 남겨 넘겼다. 넘기는 데이터는 41,944바이트에서 1,763바이트로 줄었다[2]. 다만 글은 토큰 환산값에 단서를 달았다. "참고: 본문의 토큰 절감량은 절대적인 수치가 아닌, OpenAI 공식 문서(영어 텍스트 기준 1 토큰 ≈ 4 bytes)를 기준으로 환산한 대략적인 추정치입니다."[2]
이재홍 님이 권한 방향은 개인기가 아니라 팀 단위 장치다. "단순히 개인의 프롬프트 작성 실력(개인기)에 의존하는 것을 넘어, 팀 차원에서 AI를 제어하고 활용할 수 있는 체계적인 하네스(시스템)를 구축해 보시기를 추천합니다."[2]
컬리 OMS팀 이준환 님은 API와 이벤트 명세를 JSON 형식의 DSL로 정리해, 자연어보다 3배 적은 토큰으로 더 분명하게 전달했다[3].
오늘 바로 해 볼 순서는?
- 1에이전트가 한 번 부를 때 무엇을 읽는지 로그로 본다
- 2쓰지 않는 도구는 목록에서 뺀다
- 3긴 중간 작업은 서브에이전트에 맡기고 결과만 받는다
- 4문서와 명세는 필요한 칸만 남겨 정해진 형식으로 넘긴다
- 5줄이기 전과 후를 같은 작업으로 재서 비교한다
순서는 위 기록을 Double Take가 정리한 것이다. 네 기록 모두 개발 조직의 에이전트 사용 사례이고, 수치는 각자 다른 기준으로 쟀다. 서로 비교하지 말고 방법만 가져다 쓰는 편이 안전하다.
AI에게 무엇을 넘기고 무엇을 뺄지 고르는 감각, 4분 문제로 확인해 보자
4분 테스트 하기자주 묻는 질문
- AI 토큰 비용을 줄이려면 싼 모델로 바꾸면 되나?
- 그 전에 넘기는 자료부터 본다. LY 시연은 도구 목록과 중간 결과, 입출력 형식을 손봐 전체 토큰을 40.7% 줄였다.
- 96.5% 절감 같은 수치는 믿어도 되나?
- 우아한형제들 글은 이 값이 바이트를 토큰으로 바꾼 대략적인 추정치라고 스스로 밝혔다. 방향은 참고하되 실제 절감률은 직접 재야 한다.
- 비개발자도 토큰을 아낄 수 있나?
- 있다. 긴 문서를 통째로 붙이지 말고 필요한 부분만 골라 주고, 표나 정해진 양식으로 정리해서 넘기면 같은 원리가 적용된다.
출처
- 1ODW #7: 세 가지 방법으로 토큰 소비량 40% 절감! ADK를 이용한 컨텍스트 엔지니어링 LY Tech Blog, 2026.05.22
- 2하네스 엔지니어링으로 팀 맞춤형 AI 환경 구축하기 우아한형제들 기술블로그, 2026.04.17
- 3OMS에서 Claude AI를 활용하여 변화된 업무 방식 컬리 기술블로그, 2025.12.24
- 4AI 에이전트를 위한 Android CLI: 대규모 모바일 개발 환경에 적용하기 LY Tech Blog, 2026.07.30

