[Techmeme 요약] 아마존, AI 도입 측정 방식의 '토큰 사용량' 맹신 경계령 내려
0
설명
아마존이 내부적으로 AI 도입 성과를 측정하는 방식에 대한 새로운 지침을 발표했습니다. 단순히 AI 도구 사용량이나 생성된 코드 양만으로 AI 효과를 판단하는 것은 '매우 잘못된(deeply flawed)' 방식이라고 지적하며, 직원들에게 더 신중한 접근을 당부했습니다. 이는 AI 기술 발전 속에서 기업들이 직면한 비용 문제와 실질적인 생산성 향상 측정의 어려움을 보여줍니다.
### 배경 설명
최근 기업들은 인공지능(AI) 기술을 업무에 적극적으로 도입하고 있습니다. 특히 소프트웨어 개발 분야에서는 AI 기반 코딩 도구들이 생산성 향상에 기여할 것으로 기대되고 있습니다. 하지만 AI 모델을 사용할 때 발생하는 '토큰(token)' 사용량, 즉 AI가 처리하고 생성하는 데이터의 단위가 늘어나면서 관련 비용이 급증하는 문제가 발생하고 있습니다. 일부 직원들은 이러한 비용 증가를 무시하고 AI를 과도하게 사용하여 '토큰맥싱(tokenmaxxing)'이라는 현상이 나타나기도 했습니다. 이는 마치 게임에서 점수를 올리기 위해 무의미한 행동을 반복하는 것처럼, AI 사용량을 늘리는 데 집중하는 것을 의미합니다. 아마존은 이러한 '토큰맥싱'을 방지하고 AI의 실질적인 가치를 측정하기 위해 새로운 기준을 제시한 것입니다.
### 아마존의 새로운 AI 측정 기준: '결과' 중심 접근
아마존은 2026년 10월 27일에 내부적으로 공유된 메모를 통해, AI 도입 성과를 측정할 때 토큰 사용량, AI 도구 채택률, 코드 변경 또는 검토율과 같은 지표들이 '매우 잘못된' 방식이라고 명시했습니다. 이러한 지표들은 오히려 비용을 증가시키고 복잡성을 더할 수 있다고 지적했습니다. 대신, 아마존은 '장기적인 결과(long-term outcomes)'를 측정하는 것이 가장 좋다고 강조했습니다. 이는 AI 도구가 실제 비즈니스 목표 달성, 고객 만족도 향상, 또는 새로운 기능 출시 속도(feature velocity)와 같은 실질적인 성과에 얼마나 기여하는지를 평가하겠다는 의미입니다. 마크 브루커(Marc Brooker) 아마존 웹 서비스(AWS) 부사장은 CNBC와의 인터뷰에서 '우리가 고객이나 비즈니스를 위해 중요한 문제를 해결하는 데 AI 도구를 투자하고 있는지'를 중요하게 본다고 밝혔습니다.
### '토큰맥싱' 현상과 기업들의 고민
아마존은 2026년 5월, 직원들이 순위 상승을 위해 '토큰맥싱'에 참여하는 것을 발견하고 내부 리더보드를 폐쇄한 바 있습니다. 이번 메모는 이러한 상황을 개선하고 AI를 보다 전략적으로 사용하도록 유도하기 위한 조치입니다. 많은 기업들이 AI 비용 상승과 생산성 향상 측정이라는 이중고에 시달리고 있습니다. 일부 기업은 토큰 사용량에 제한을 두거나, 특정 작업에는 더 저렴한 오픈소스 AI 모델을 사용하는 등의 방법을 모색하고 있습니다. 아마존은 직원들에게 AI가 실제로 도움이 되지 않는 작업에 AI를 사용하는 것을 지양하도록 권고하며, 'AI가 아직 도움이 되지 않는 부분을 설명할 수 있는 엔지니어는 우리가 요구하는 판단력을 보여주는 것'이라고 덧붙였습니다.
### AI 시대, 소프트웨어 엔지니어링의 변화
아마존은 AI가 소프트웨어 엔지니어링의 미래에 중심적인 역할을 할 것이라고 확신하고 있습니다. 앤디 재시(Andy Jassy) CEO는 AI가 업무의 범위와 속도를 변화시키고, 자동화를 통해 일부 일자리를 줄일 수도 있지만 동시에 새로운 일자리도 창출할 것이라고 예측했습니다. 이번 메모는 AI 시대에 소프트웨어 개발 엔지니어와 관리자의 역할을 재정의하려는 아마존의 노력을 보여줍니다. AI를 단순히 도구로 사용하는 것을 넘어, AI의 장단점을 이해하고 비즈니스 목표 달성에 효과적으로 활용하는 능력이 중요해질 것입니다.
### 가치와 인사이트
아마존의 이번 발표는 AI 기술 도입의 초기 단계를 넘어, 실질적인 가치 창출과 효율적인 비용 관리가 중요해지고 있음을 시사합니다. 단순히 AI 사용량을 늘리는 것만이 능사가 아니라, AI가 비즈니스 목표 달성에 어떻게 기여하는지를 측정하고 관리하는 것이 기업의 핵심 과제가 될 것입니다. 이는 AI 도입을 고려하는 다른 기업들에게도 중요한 참고 사례가 될 수 있습니다.
### 향후 전망
AI 기술이 더욱 발전함에 따라, 기업들은 AI 활용에 대한 더욱 정교한 측정 및 관리 시스템을 구축하게 될 것입니다. 이는 AI 기반의 새로운 비즈니스 모델과 서비스의 등장을 가속화할 수 있습니다. 또한, AI의 효율적인 활용 능력이 기업의 경쟁력을 좌우하는 중요한 요소가 될 것이며, 직원들에게는 AI를 효과적으로 활용하는 능력이 필수적인 역량으로 자리 잡을 것입니다. 규제 측면에서도 AI의 비용 효율성과 실제 생산성 기여도를 평가하는 기준이 마련될 가능성이 있습니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/261027/p27#a261027p27)
- 원문 기사: [링크 열기](https://www.cnbc.com/2026/10/27/amazon-ai-coding-tokenmaxxing.html)
---
출처: Techmeme ([Original Article](https://www.cnbc.com/2026/10/27/amazon-ai-coding-tokenmaxxing.html))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.