[Techmeme 요약] 핀테크 기업 레볼루트, 자체 AI 모델 도입으로 코딩 비용 90% 절감
4
설명
영국의 핀테크 기업 레볼루트(Revolut)가 자체 호스팅 대규모 언어 모델(LLM)을 도입하며 AI 코딩 관련 비용을 약 90% 절감했다고 밝혔습니다. 이는 2026년 11월 3일 The Register에 보도된 내용입니다.
레볼루트는 상용 AI 도구 대신 자체 모델을 사용함으로써 비용 효율성을 높이고 개발자 생산성을 향상시켰습니다.
이러한 변화는 AI 기술의 비용과 효율성에 대한 새로운 접근 방식을 제시하며, 향후 기업들의 AI 도입 전략에 영향을 미칠 것으로 보입니다.
### 배경 설명
레볼루트는 2026년 11월 3일, AI 코딩 관련 비용을 1년 만에 약 90% 절감했다고 발표했습니다. 이는 자체적으로 구축하고 운영하는 대규모 언어 모델(LLM)을 상용 서비스 대신 기본으로 사용하기로 결정했기 때문입니다. 특히, 앤트로픽(Anthropic)의 클로드 코드(Claude Code)와 같은 상용 도구 사용을 줄인 것이 주효했습니다.
레볼루트의 운영 및 인프라 책임자인 데이비드 아비볼(David Abitbol)은 2026년 10월 뉴욕에서 열린 AI 엔지니어 컨퍼런스에서 이 내용을 공유했습니다. 그는 AI 코딩 도구를 약 2,000명의 엔지니어에게 배포한 후 코딩 시간에서 60%, 리드 타임(lead time)에서 70%의 개선을 경험했다고 설명했습니다.
처음에는 AI 비용에 대해 회의적이었던 레볼루트는 엔지니어당 월 1,000달러에서 10,000달러까지 발생하는 비용과 낮은 투자 수익률(ROI)을 목격했습니다. 이러한 배경에서 엄격한 예산 제한 하에 AI 도구를 도입했으며, 이는 자체 모델 개발 및 호스팅으로 이어지는 계기가 되었습니다. 자체 호스팅 GLM 5.1 모델은 백만 개의 입력/출력 토큰당 약 0.30달러로, OpenAI의 Codex나 앤트로픽의 Claude Code 사용 비용의 약 10분의 1 수준이었습니다.
### 자체 모델 도입과 비용 절감 효과
레볼루트는 초기에는 GLM-5.1 모델을 사용하다가 GLM-5.3으로 업그레이드했으며, 현재는 56개의 엔비디아 B200 GPU를 활용하여 이 모델들을 서비스하고 있습니다. 자체 호스팅 모델을 사용하면서 토큰 사용량에 대한 부담이 줄어들었고, 엔지니어들은 더 자유롭게 AI를 활용할 수 있게 되었습니다. 아비볼은 코딩 속도 향상뿐만 아니라, 디버깅, 지라(Jira) 및 컨플루언스(Confluence) 티켓 처리 등 반복적인 업무를 AI가 대신 처리하면서 가장 큰 효율성 증대를 경험했다고 밝혔습니다. 이는 엔지니어들이 더 복잡하고 창의적인 작업에 집중할 수 있도록 했습니다.
### GLM 모델과 최적화 전략
레볼루트가 선택한 GLM 5.1 모델은 중국의 Z.ai에서 개발한 오픈 가중치(open weights) 모델로, 약 7,540억 개의 총 파라미터(매 토큰 생성 시 400억 개 활성화)를 가지고 있습니다. 이 모델을 대규모로 서비스하기 위해 레볼루트는 56개의 엔비디아 B200 GPU를 도입했습니다. 하지만 GPU 수를 늘리는 것보다 모델의 하이퍼파라미터(hyperparameter) 튜닝, NVFP4 양자화(quantization) 적용, 분산 사전 채우기(disaggregated prefill) 및 디코딩(decode) 구현, 그리고 컨텍스트 길이(context length) 최적화가 성능 향상에 더 큰 기여를 했습니다. 특히, 100만 토큰 컨텍스트 창이 반드시 효율적이거나 유용한 것은 아니며, 약 25만 6천 토큰 정도가 실제 필요한 수준이라는 점을 발견했습니다.
### 성능 목표와 실제 적용
최적화 작업을 통해 레볼루트는 약 25만 6천 토큰의 컨텍스트 창에서 첫 토큰까지의 응답 시간을 3초 미만으로, 생성 속도를 초당 약 200 토큰으로 달성했습니다. 아비볼은 첫 토큰까지의 응답 시간이 5초를 넘어가면 엔지니어들의 불만이 발생하며, 초당 200 토큰의 생성 속도면 충분하다고 설명했습니다. 이는 엔지니어들이 작업을 병렬로 실행하고 완료 후 결과를 확인하는 방식으로 업무 방식이 변화했기 때문입니다. 또한, 오후 5시 이후에 접속하는 엔지니어들은 초당 약 800 토큰에 가까운 속도를 경험하기도 합니다. 다만, GLM 모델은 텍스트 전용이므로 UI 작업 등에는 제미니(Gemini)나 GPT 루나(GPT Luna)와 같은 다른 모델을 사용하고, 코드 생성은 GLM으로 처리하는 모델 라우터(model router)를 활용하고 있습니다.
### 가치와 인사이트
레볼루트의 사례는 AI 기술 도입 시 비용 효율성을 극대화할 수 있는 실질적인 방안을 제시합니다. 자체 호스팅 모델을 통해 상용 서비스 의존도를 낮추고, 특정 작업에 최적화된 모델과 기술을 적용함으로써 상당한 비용 절감과 성능 향상을 이룰 수 있음을 보여줍니다. 또한, '긴 컨텍스트 창'과 같은 최신 기술 트렌드가 실제 업무 환경에서 반드시 효율적인 것은 아니며, 기업의 구체적인 요구사항에 맞춰 기술을 선택하고 최적화하는 것이 중요하다는 시사점을 제공합니다.
### 기술·메타
- 자체 호스팅 GLM 모델 (GLM-5.1, GLM-5.3)
- 엔비디아 B200 GPU (56개)
- NVFP4 양자화
- 분산 사전 채우기 및 디코딩
- 모델 라우터 (Gemini, GPT Luna 등 활용)
- 오픈 소스 모델
### 향후 전망
레볼루트의 자체 호스팅 LLM 도입 성공 사례는 다른 기업들에게도 큰 영향을 미칠 것입니다. 특히, AI 모델 운영 비용이 부담스러운 중소기업이나 스타트업에게는 자체 모델 구축 및 최적화가 매력적인 대안이 될 수 있습니다. 이는 오픈 소스 AI 모델 생태계의 성장을 더욱 촉진할 것이며, 클라우드 기반 상용 AI 서비스와의 경쟁 구도를 변화시킬 가능성이 있습니다.
또한, 기업들은 AI 모델의 성능뿐만 아니라 비용, 보안, 데이터 프라이버시 등을 종합적으로 고려하여 AI 전략을 수립하게 될 것입니다. 자체 데이터센터나 지역 클라우드 자원을 활용하여 모델을 운영하는 방식이 확산될 수 있으며, 이는 AI 기술의 탈중앙화 및 맞춤화 추세를 가속화할 것입니다. 규제 당국 역시 이러한 변화를 주시하며 AI 모델의 투명성 및 보안에 대한 논의를 강화할 것으로 예상됩니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/261103/p36#a261103p36)
- 원문 기사: [링크 열기](https://www.theregister.com/ai-and-ml/2026/11/03/british-fintech-revolut-slashes-ai-coding-costs-10x-by-cutting-out-claude-and-going-self-hosted/5307345)
---
출처: Techmeme ([Original Article](https://www.theregister.com/ai-and-ml/2026/11/03/british-fintech-revolut-slashes-ai-coding-costs-10x-by-cutting-out-claude-and-going-self-hosted/5307345))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.