[Hacker News 요약] Spotify Portal, Claude Code 토큰 사용량 90% 절감
45
설명
Spotify 엔지니어링 팀은 'Portal'이라는 내부 도구를 통해 Claude Code의 토큰 사용량을 90%까지 줄이는 혁신적인 방법을 공개했습니다.
이 시스템은 AI 코딩 에이전트의 비효율적인 I/O 작업을 저비용 모델로 위임하여, 고성능 모델은 복잡한 추론 작업에만 집중하도록 설계되었습니다.
2028년까지 AI 코딩 비용이 개발자 연봉을 초과할 것으로 예상되는 가운데, 이는 개발 생산성 향상과 비용 절감을 위한 중요한 접근 방식입니다.
### 배경 설명
최근 몇 년간 대규모 언어 모델(LLM) 기반 코딩 도구의 발전은 개발자들의 생산성을 크게 향상시켰습니다. 특히 Anthropic의 Claude Code와 같은 도구는 코드 분석, 생성, 수정 등 다양한 작업을 지원하며 개발 워크플로우에 통합되고 있습니다. 그러나 이러한 도구들은 종종 방대한 양의 코드와 문서를 처리하기 위해 상당한 양의 토큰을 소비합니다. 이는 단순히 라이선스 비용뿐만 아니라, 모델의 추론 능력과는 무관한 단순 I/O 작업에 고가의 컴퓨팅 자원이 낭비되는 결과를 초래합니다. 예를 들어, 여러 파일의 내용을 읽어 특정 질문에 답하거나, 기존 코드 패턴을 따라 테스트 파일을 생성하는 등의 작업은 상당한 토큰을 소모하지만, 복잡한 추론 과정을 요구하지는 않습니다. 이러한 비효율성은 특히 대규모 코드베이스를 다루는 기업에서 심각한 비용 문제로 대두되고 있습니다. 2028년까지 AI 코딩 비용이 개발자 평균 연봉을 넘어설 것이라는 예측과 함께, 이미 많은 엔지니어링 리더들이 월 수백 달러에서 수천 달러에 달하는 토큰 비용을 지출하고 있다는 보고는 이러한 문제의 시급성을 보여줍니다. 따라서, 단순 반복 작업은 저렴하고 효율적인 모델로 처리하고, 복잡하고 추론이 필요한 작업에만 고성능 모델을 활용하는 '모델 라우팅' 전략은 AI 코딩 비용을 최적화하고 개발 효율성을 극대화하기 위한 필수적인 접근 방식으로 부상하고 있습니다.
### Portal의 AiKA 모드 기반 모델 라우팅
Spotify의 Portal은 이러한 문제를 해결하기 위해 'AiKA 모드(Modes)'라는 개념을 도입했습니다. 모드는 선언적으로 정의되는 에이전트로, AWS Lambda와 유사한 임시 런타임에서 실행됩니다. 사용자는 지침, 모델, 온도와 같은 매개변수, 그리고 MCP 도구를 정의하기만 하면 됩니다. Portal은 인프라 관리, API 키 설정, 장기 실행 서버 없이 이러한 모드를 관리하고 호출할 수 있도록 지원합니다. 이 시스템은 두 가지 핵심 모드를 활용합니다. 첫 번째는 'bulk-reader' 모드로, 여러 대용량 파일을 읽어야 하는 경우 Claude Code 대신 사용됩니다. 이 모드는 제공된 파일들을 분석하여 질문에 대한 간결한 답변을 구조화된 불릿 형태로 제공합니다. 두 번째는 'code-writer' 모드로, 기존 코드 패턴을 기반으로 테스트 파일, 설정 파일 스텁 등 예측 가능한 출력물을 생성하는 데 사용됩니다. 이 모드는 출력만 생성하고 마크다운 펜스나 설명을 포함하지 않아 Claude Code가 추가적인 파싱 작업을 할 필요가 없습니다. 두 모드 모두 예시에서는 Gemini 2.5 Flash 모델을 사용하지만, 사용자는 구성된 다른 모델로 교체할 수 있습니다.
### Shunt 플러그인을 통한 자동화된 작업 위임
작업 위임의 효율성을 높이기 위해 'shunt'라는 Claude Code 플러그인이 개발되었습니다. 이 플러그인은 Claude Code의 도구 호출 전에 실행되는 'PreToolUse' 훅을 활용합니다. 'check-file-size' 훅은 대용량 파일 읽기 요청이 감지되면, 해당 요청을 차단하고 'bulk-reader' 스킬을 사용하도록 Claude Code에 안내합니다. 기본값은 350줄이며, 이는 `SHUNT_MIN_LINES` 환경 변수를 통해 설정 가능합니다. 마찬가지로 'check-bash-read' 훅은 `cat`, `head`, `less` 등과 같은 명령어가 대용량 파일에 사용될 때 동일한 방식으로 작동합니다. 이러한 훅은 Claude Code가 직접 대용량 파일을 읽는 대신, Portal의 'bulk-reader' 모드를 호출하도록 유도하여 토큰 사용량을 크게 절감합니다. 또한, 'code-writer' 모드는 Claude Code가 직접 코드를 생성하는 대신, 지정된 스펙과 참조 파일을 기반으로 코드를 생성하고 디스크에 직접 작성합니다. 이 과정에서 Claude Code는 생성된 코드를 직접 보지 않으므로, 출력 토큰 사용량도 절감됩니다. 이 시스템은 2026년 9월 3일에 Dimitri Mazmanov에 의해 발표되었습니다.
### 성능 벤치마크 및 한계점
Spotify는 Java 모노레포를 대상으로 네 가지 시나리오에 대한 벤치마크를 수행했습니다. 그 결과, 'bulk-reader' 모드를 사용했을 때 Claude Code가 직접 파일을 읽는 것에 비해 평균 약 90%의 토큰 절감 효과를 보였습니다. 'code-writer' 시나리오에서는 shunt를 사용할 경우 Claude Code가 생성된 코드를 직접 처리하지 않으므로 토큰 사용량 측정이 더욱 효과적입니다. 그러나 이 시스템에도 한계점은 존재합니다. 첫째, 코드 편집 작업은 위임할 수 없습니다. 작업 모델이 생성한 요약에는 정확한 줄 번호가 포함되지 않아, Claude Code가 직접 특정 부분을 읽어야 합니다. 둘째, 복잡한 추론 작업은 여전히 Claude Code의 역할입니다. 작업 모델은 표면적인 패턴을 식별할 수 있지만, 미묘한 스레드 안전성 버그와 같은 복잡한 문제는 Claude Code가 직접 해결해야 합니다. 따라서 디버깅, 아키텍처 결정, 안전이 중요한 코드 등은 위임 대상에서 제외됩니다. 셋째, 각 위임 작업은 네트워크 왕복으로 인해 10~30초의 지연 시간이 발생할 수 있습니다. 이는 대용량 파일 처리에는 허용 가능하지만, 소량 작업에는 비효율적일 수 있습니다. 이러한 지연 시간 때문에, 350줄 이상의 파일에 대해서만 위임을 수행하는 임계값이 설정되었습니다.
### 가치와 인사이트
Spotify의 Portal과 AiKA 모드 기반 모델 라우팅 시스템은 LLM 기반 코딩 도구의 비용 효율성을 극적으로 개선할 수 있는 실질적인 해결책을 제시합니다. 단순 I/O 작업에 고가의 LLM 자원을 낭비하는 대신, 저비용 모델로 위임함으로써 개발자는 핵심적인 추론 및 문제 해결에 집중할 수 있습니다. 이는 특히 대규모 프로젝트를 수행하거나 AI 코딩 비용에 민감한 기업들에게 직접적인 비용 절감 효과와 생산성 향상을 가져올 수 있습니다. 또한, '모드'라는 재사용 가능하고 공유 가능한 구성 요소는 다양한 AI 에이전트 워크플로우를 구축하는 데 있어 유연성과 확장성을 제공합니다. 이는 모델 라우팅을 복잡한 시스템 엔지니어링 문제에서 단순한 구성 문제로 전환시키는 중요한 전환점입니다.
### 기술·메타
- Claude Code
- Portal by Spotify
- AiKA Modes
- Gemini 2.5 Flash
- AWS Lambda (개념적 유사성)
- Shunt Plugin
- PreToolUse Hooks
- MCP Tools
- Bash Scripts
- YYYY-MM-DD: 2026-09-03 (발표일)
### 향후 전망
Portal의 AiKA 모드 시스템은 향후 더욱 다양한 작업으로 확장될 잠재력을 가지고 있습니다. 예를 들어, 문서 작성, 코드 리뷰 요약, 다국어 번역 등 특정 목적을 위한 새로운 모드를 개발하여 적용할 수 있습니다. 또한, Gemini 2.5 Flash 외에도 다양한 LLM 모델과의 통합을 통해 각 작업에 최적화된 모델을 선택하고 조합하는 것이 가능해질 것입니다. 경쟁 측면에서는, 다른 AI 코딩 도구들도 유사한 모델 라우팅 또는 작업 위임 전략을 채택할 가능성이 높습니다. Spotify가 공개한 이 아키텍처는 업계 표준으로 자리 잡을 수도 있으며, 개발자들은 이러한 효율적인 AI 활용 방안을 통해 더욱 복잡하고 창의적인 문제 해결에 집중하게 될 것입니다. 커뮤니티 측면에서는, 공개된 모드와 플러그인을 통해 개발자들이 자체적으로 커스터마이징하거나 새로운 모드를 개발하여 공유하는 생태계가 형성될 수 있습니다.
📝 원문 및 참고
- Source: Hacker News
- 토론(HN): [news.ycombinator.com](https://news.ycombinator.com/item?id=49571465)
- 원문: [링크 열기](https://engineering.atspotify.com/2026/9/portal-by-spotify-cut-my-claude-code-token-usage-by-90)
---
출처: Hacker News · [원문 링크](https://engineering.atspotify.com/2026/9/portal-by-spotify-cut-my-claude-code-token-usage-by-90)
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.