[Techmeme 요약] 미 육군, AI 토큰 사용량 급증에 제한 재도입… 연간 1억 개 토큰 'Ask Sage' 도구도 영향
1
설명
미 육군이 생성형 인공지능(AI) 도구 사용에 필요한 '토큰'을 예상보다 훨씬 빠르게 소진하여, 무제한 사용 정책을 번복하고 다시 사용량 제한을 도입했습니다.
이는 2026년 5월 무제한 토큰 제공 발표 불과 한 달 만에 발생한 일로, 연간 1억 개의 토큰을 제공하는 'Ask Sage'와 같은 도구의 운영에도 영향을 미칠 전망입니다.
이번 사태는 AI 기술 도입 확산과 함께 발생하는 예상치 못한 비용 및 관리 문제를 시사합니다.
### 배경 설명
생성형 AI(Generative AI)는 텍스트, 이미지, 코드 등 새로운 콘텐츠를 만들어내는 인공지능 기술을 말합니다. 이러한 AI 모델을 사용하기 위해서는 '토큰(token)'이라는 단위로 계산되는 자원이 필요합니다. 토큰은 AI가 처리하는 정보의 양에 따라 소모되며, 텍스트의 경우 약 3.7자당 1개의 토큰이 사용되는 식입니다.
미 국방부(DOD)는 약 350만 명의 직원 중 절반 가량이 업무에 AI를 활용하고 있다고 밝힐 정도로 AI 도입에 적극적입니다. 특히 미 육군은 'Ask Sage'라는 자체 생성형 AI 플랫폼을 통해 다양한 대규모 언어 모델(LLM, Large Language Model)을 활용하고 있습니다. 여기에는 구글의 Gemini, 메타의 Llama, OpenAI의 ChatGPT 등이 포함됩니다. 'Ask Sage'는 군 인사 정보 분류와 같은 업무에 사용되며, 연간 1억 개의 토큰을 제공하는 '엔터프라이즈 팩(enterprise pack)' 구독을 통해 운영됩니다.
하지만 2026년 5월, 미 육군 CIO(최고정보책임자)가 AI 토큰 사용에 무제한 정책을 발표했음에도 불구하고, 불과 한 달 뒤인 6월 중순에 이미 할당된 토큰이 모두 소진되어 사용량 제한을 다시 설정해야 하는 상황이 발생했습니다. 이는 예상보다 훨씬 빠른 토큰 소진 속도를 보여주며, AI 기술의 폭발적인 사용량 증가와 그에 따른 관리 및 비용 문제를 드러냅니다.
### AI 토큰, 예상보다 빠르게 고갈되다
미 육군 내부에서는 AI 토큰이 연간 할당량을 단 한 번의 서비스 사용으로 모두 소진했다는 익명의 관계자 발언이 나왔습니다. 육군 직원들은 월 20만 개 이상의 토큰을 할당받았으며, 사용량이 많으면 자동으로 추가 할당되었습니다. 심지어 사용하지 않는 직원에게도 토큰 사용을 독려하는 이메일이 발송되기도 했습니다. 이러한 상황은 AI 기술의 광범위한 채택과 사용량 증가를 보여주지만, 동시에 자원 관리의 허점을 드러냅니다.
### 'Ask Sage'와 연간 1억 개 토큰의 의미
미 육군이 사용하는 'Ask Sage' 플랫폼은 연간 1억 개의 토큰을 제공하는 '엔터프라이즈 팩'을 통해 운영됩니다. 이는 군 내부에서 AI를 광범위하게 활용하려는 의지를 보여주는 동시에, AI 서비스 제공 업체와의 계약 규모 및 관련 비용이 상당함을 시사합니다. 이번 토큰 고갈 사태는 이러한 대규모 AI 자원 운영에 대한 재검토를 필요로 합니다. 2026년 10월 1일 이후 육군 CIO 풀의 토큰 갱신 여부도 불투명한 상황입니다.
### 다른 기업들도 겪는 AI 사용량 급증 문제
미 육군만의 문제가 아닙니다. 메타(Meta)는 직원들의 AI 토큰 사용량 추적 리더보드를 비공개로 전환하고 사용량 제한을 검토 중이며, 인스타그램 책임자인 아담 모세리(Adam Mosseri)는 엔지니어당 토큰 사용량 상한선을 제안하기도 했습니다. 또한, 우버(Uber) 역시 엔지니어들이 4개월 만에 연간 AI 토큰을 모두 사용해버리는 상황을 겪었습니다. 이는 생성형 AI가 업무 효율성을 높일 잠재력을 가지고 있지만, 무분별한 사용은 예상치 못한 비용과 관리 부담을 초래할 수 있음을 보여줍니다.
### 가치와 인사이트
이번 미 육군의 AI 토큰 사용량 제한 재도입은 생성형 AI 기술의 빠른 확산이 가져오는 예상치 못한 도전 과제를 명확히 보여줍니다. 단순히 기술 도입을 넘어, AI 자원의 효율적인 관리, 비용 통제, 그리고 지속 가능한 활용 방안 마련이 시급함을 시사합니다. 특히 군과 같은 대규모 조직에서는 AI의 전략적 활용과 함께 엄격한 관리 체계 구축이 필수적입니다.
### 기술·메타
- AI 토큰 (AI Token)
- 대규모 언어 모델 (LLM, Large Language Model)
- 생성형 AI (Generative AI)
- Ask Sage (미 육군 AI 플랫폼)
- Gemini (Alphabet)
- Llama (Meta)
- ChatGPT (OpenAI)
### 향후 전망
AI 토큰 사용량 제한은 군뿐만 아니라 민간 기업에서도 유사한 문제를 야기할 수 있습니다. 이는 AI 서비스 제공 업체와의 계약 방식 변화, 토큰 사용량 최적화를 위한 기술 개발, 그리고 AI 활용에 대한 명확한 가이드라인 및 정책 수립으로 이어질 것입니다. 또한, AI의 효용성에 대한 재평가가 이루어지면서, 단순 반복 작업 자동화를 넘어 복잡하고 창의적인 문제 해결에 AI를 어떻게 효과적으로 접목할지에 대한 논의가 더욱 활발해질 것입니다. 장기적으로는 AI 자원 관리의 효율성이 AI 기술 경쟁력의 중요한 요소가 될 수 있습니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260721/p9#a260721p9)
- 원문 기사: [링크 열기](https://www.wired.com/story/the-army-is-burning-through-its-ai-tokens/)
---
출처: Techmeme ([Original Article](https://www.wired.com/story/the-army-is-burning-through-its-ai-tokens/))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.