[GeekNews 요약] 구글, AI 에이전트마다 '컴퓨터 한 대' 제공하는 Agent Compute Engine 공개
0
설명
구글은 AI 에이전트가 질문 답변을 넘어 실제 행동을 수행하는 '에이전트 시대'의 도래를 선언하며, 각 에이전트에게 독립적인 컴퓨팅 환경을 제공하는 Agent Compute Engine을 공개했습니다. 이는 기존 컴퓨팅 방식으로는 감당하기 어려운 에이전트 워크로드의 폭발적인 증가에 대응하기 위한 구글의 새로운 인프라 전략입니다.
이 새로운 서비스는 보안, 효율성, 지속성이라는 세 가지 핵심 과제를 해결하며, 향후 AI 에이전트 생태계의 기반이 될 것으로 기대됩니다.
### 배경 설명
소프트웨어 패러다임의 변화는 종종 컴퓨터 아키텍처의 근본적인 재고를 요구해왔습니다. 2000년대 초 웹 트래픽 급증에 대응하여 구글은 웨어하우스 스케일 컴퓨팅과 리눅스 컨테이너를 도입했으며, 이는 쿠버네티스로 이어져 클라우드 네이티브 생태계를 형성했습니다. 이후 딥러닝 모델의 연산 및 전력 요구량이 증가하면서 구글은 TPU(Tensor Processing Unit)를 개발했습니다. 또한, 클라우드 보안 강화를 위해 커스텀 실리콘과 IPU(Infrastructure Processing Unit) 아키텍처인 Titanium을 구축하여 I/O 가상화, 스토리지, 암호화 신뢰 기능을 호스트 CPU에서 분리했습니다.
현재 우리는 AI 에이전트가 코드를 작성하고 실행하며, 도구를 사용하고, 브라우저를 제어하는 등 단순한 질의응답을 넘어선 '행동하는 AI'로의 전환이라는 또 다른 근본적인 변화의 중심에 서 있습니다. 이러한 에이전트 워크로드는 구글 내부에서 가장 빠르게 컴퓨팅 및 스토리지 자원을 소비하는 분야 중 하나로 급성장하고 있습니다. 기존 컴퓨팅 방식으로는 수억 개의 에이전트를 행성 규모로, 요구되는 비용과 지연 시간 내에서 효율적으로 운영하기 어렵다는 문제가 제기되었습니다. 이에 따라 구글은 각 AI 에이전트에게 컨테이너 수준의 속도와 제로 크리덴셜 샌드박스를 갖춘 하드웨어 격리 마이크로VM을 제공하는 새로운 구글 클라우드 서비스인 Agent Compute Engine을 개발하게 되었습니다.
### 1. 기존 컴퓨팅 방식의 한계와 에이전트 워크로드
Gemini 팀은 각 사용자에게 클라우드에서 실행되며 사용자의 작업을 기억하고 대신 행동하는 개인 에이전트를 제공하는 것을 목표로 삼았습니다. 이를 위해 각 에이전트는 파일 시스템, 언어 런타임, 브라우저, 네트워크 액세스를 갖춘 독립적인 컴퓨터가 필요했습니다. Gemini for Business 팀 역시 기업이 직원들을 위한 에이전트를 구축할 수 있도록 지원하며, 이 에이전트들은 기업 내부 문서, 데이터베이스, 사설 네트워크 서비스에 접근해야 했습니다. 두 팀 모두 각 에이전트를 '하네스(harness, 모델을 호출하고 다음 단계를 결정하는 두뇌)'와 '샌드박스(sandbox, 모델의 지시에 따라 코드를 실행하는 손)'로 분할했습니다.
모델에게 디지털 세계와 상호작용할 수 있는 '손'을 제공한다는 것은 각 에이전트에게 파일 시스템, 언어 런타임, 네트워크 도구, 브라우저를 갖춘 실제 환경, 즉 독립적인 컴퓨터를 제공하는 것을 의미합니다. 기존 가상 머신(VM)은 운영 체제, 네트워킹, 스토리지에 대한 완전한 제어를 제공하며 하이퍼바이저 수준의 격리 경계를 갖추지만, 부팅 및 구성에 수 초에서 수 분이 소요되는 오버헤드가 있습니다. 에이전트는 빈번하게 시작, 일시 중지, 재개되므로 이러한 오버헤드가 누적됩니다. 구글이 선도한 컨테이너 방식은 호스트 운영 체제 커널을 공유하여 빠르고 경량화되어 에이전트 워크로드에 이상적입니다. 하지만 코딩 에이전트나 개발자 지원 도구와 같이 완전한 격리 및 커널/루트 수준 제어가 필요한 경우도 있습니다. 또한, 에이전트가 유휴 상태일 때도 빠르게 반응해야 하며, 매번 환경을 해체하고 재구축하는 것은 에이전트의 작업 상태를 파괴하고 느린 재구축을 유발합니다. 대기 중인 각 에이전트에 대해 블랙박스, 전용, 항상 켜져 있는 VM을 프로비저닝하는 것은 자원 낭비가 심하고 가능성을 제한합니다. 따라서 VM의 격리성과 컨테이너의 속도 및 밀도를 모두 충족하는 새로운 형태의 컴퓨팅이 필요했습니다.
### 2. Agent Compute Engine의 설계 원칙 및 보안
Agent Compute Engine은 구글의 행성 규모 에이전트 워크로드를 처리하기 위해 처음부터 설계된 통합 에이전트 컴퓨팅 플랫폼입니다. 이 플랫폼은 제품 팀에게 원시 인프라 기본 요소를 제공하는 대신, 컨테이너 속도로 영구적인 하드웨어 격리 마이크로VM을 신속하게 제공하는 단순한 마이크로VM 추상화를 제공합니다. 이 아키텍처는 구글 전반의 네 가지 주요 워크로드 클래스를 지원하도록 구축되었습니다. 첫째, 대화형 소비자 및 기업 에이전트 인터페이스로, 코드를 즉석에서 작성하고 실행하는 대화형 채팅, 대화형 셸 환경, 사용자를 대신하여 웹을 탐색하고 작업을 수행하는 헤드리스 브라우저 샌드박스입니다. 둘째, 자율 소프트웨어 엔지니어링 워크스페이스로, 개발자나 코딩 에이전트가 며칠 또는 몇 주 동안 다단계 리팩토링을 수행할 수 있도록 루트 액세스, 컴파일러, 언어 서버를 갖춘 영구적이고 완전한 기능을 갖춘 Linux 컴퓨터입니다. 셋째, 대규모 평가 및 강화 학습(RL)으로, 고속으로 수천 개의 병렬 환경 궤적을 시작, 분기, 평가하는 최첨단 모델 학습 및 벤치마킹 파이프라인입니다. 넷째, 구글 서비스용 경량 샌드박스 백엔드로, 내부 구글 애플리케이션이 맞춤형 샌드박싱 스택을 구축하지 않고도 동적 로직과 사용자 주도 작업을 안전하게 실행할 수 있는 공통 실행 환경입니다.
AI 에이전트가 점점 더 복잡한 작업을 수행함에 따라, 샌드박스 내에서 신뢰할 수 없거나 악의적인 코드가 실행될 위험이 상존합니다. Agent Compute Engine은 다음과 같은 보안 기둥에 기반한 심층 방어 아키텍처를 통해 안전하게 자율 워크로드를 대규모로 실행합니다. 첫째, 구글의 커스텀 Titan 실리콘과 Titanium IPU에 기반한 하드웨어 루트 신뢰입니다. 노드 보안 상태는 IPU 또는 원격에만 보관되는 암호화 개인 키를 사용하여 노드 및 워크로드 증명을 고정합니다. 둘째, 호스트 무결성으로, 스테이트리스이며 읽기 전용 루트 파일 시스템을 갖춘 불변 어플라이언스로 작동합니다. 셋째, 각 에이전트 세션은 전용 단일 테넌트 및 메모리 안전 마이크로VM 내에서 실행되며 CPU 사이드 채널 완화가 적용됩니다. 넷째, 제로 시크릿 아키텍처로, 게스트 환경은 영구적인 비밀, OAuth 새로 고침 토큰, 클라우드 서비스 계정 키를 보유하지 않으며, 대신 세션 범위의 공개 SPIFFE 인증서와 단기 ID 토큰만 받습니다. 다섯째, 제한된 네트워킹으로, 마이크로VM은 표준 가상 네트워크 인터페이스가 없으며 모든 트래픽은 격리된 IPC 경계를 통과합니다. 여섯째, 종단 간 암호화(전송 중 및 저장 시)가 적용됩니다. 마지막으로 자동 패치, 런타임 탐지, 지속적인 보안 및 에이전트 하네스와 샌드박스의 엄격한 분리가 구현됩니다. 샌드박스 내에는 절대 보안 토큰이 주입되지 않으며, 직접적인 네트워크 인터페이스도 없습니다.
### 3. 거버넌스, 효율성 및 지속성
Agent Compute Engine은 보안뿐만 아니라 강력한 거버넌스 및 효율성 기능을 제공합니다. 에이전트가 Google Drive 문서를 열 때, 누구의 이름으로 요청하는지에 대한 질문에 답하기 위해 네 가지 별도의 ID를 생성했습니다. 사용자 ID, 위임된 에이전트 온비하프(On-Behalf-Of) ID, 에이전트 워크로드 ID, 에이전트 워크포스 ID가 그것입니다. 이 ID 체계는 에이전트의 모든 활동을 추적하고 감사할 수 있게 하며, 샌드박스 내에는 어떠한 자격 증명도 저장되지 않습니다.
대부분의 에이전트 세션은 유휴 상태로 많은 시간을 보냅니다. Agent Compute Engine은 애플리케이션 인식 유휴 감지를 통해 에이전트가 유휴 상태에 들어가면 즉시 마이크로VM을 빠른 체크포인트-복원 모델로 전환하여 활성 자원을 거의 사용하지 않도록 합니다. 또한, 수천 개의 에이전트가 동일한 기본 이미지, Python 런타임, 브라우저를 공유하는 경우, 메모리 중복 제거 및 Copy-on-Write(CoW) 메모리 복제를 통해 물리 메모리 페이지를 공유하여 자원 효율성을 극대화합니다. 에이전트의 지속성을 위해, 파일 시스템은 임시 스크래치 데이터, 읽기 전용 공유 볼륨, 영구 사용자 작업 공간으로 구분되어 관리되며, Hyperdisk를 통해 암호화되어 저장됩니다. Gemini for Business 고객을 위해 Google Workspace 및 사설 VPC 네트워크와의 통합을 지원하며, Agent Gateway를 통해 관리자가 정의한 정책에 따라 에이전트의 접근 범위를 제어합니다. 마지막으로, 글로벌 스케줄링, 시간 유연성, 통합된 하드웨어 풀을 통해 다양한 에이전트 워크로드의 피크 수요를 효율적으로 관리하고, 자원을 동적으로 할당하여 비용을 절감합니다.
### 가치와 인사이트
Agent Compute Engine의 등장은 AI 에이전트가 단순한 정보 제공자를 넘어 실제 작업을 수행하는 '행동하는 AI' 시대로의 전환을 가속화할 중요한 기술적 진보입니다. 각 에이전트에게 독립적인 컴퓨팅 환경을 제공함으로써, 이전에는 불가능했던 복잡하고 자원 집약적인 에이전트 워크로드를 행성 규모로 실행할 수 있게 됩니다. 특히, 하드웨어 기반의 강력한 보안, 컨테이너 수준의 속도와 VM 수준의 격리를 결합한 마이크로VM 아키텍처는 AI 에이전트의 안전하고 효율적인 운영을 보장합니다. 또한, 에이전트의 유휴 상태를 거의 제로 비용으로 관리하고, 작업 상태를 지속적으로 유지하는 기능은 AI 에이전트의 실질적인 활용성을 크게 높입니다. 이는 개발자가 복잡한 인프라 관리 없이도 고도로 개인화되고 능동적인 AI 에이전트를 구축할 수 있는 기반을 마련하며, 궁극적으로는 AI가 인간의 생산성을 증대시키는 방식을 근본적으로 변화시킬 잠재력을 지닙니다.
### 기술·메타
* **서비스명:** Agent Compute Engine
* **공개일:** 2024년 10월 23일
* **주요 기술:** 마이크로VM, 하드웨어 격리, Titan 실리콘, Titanium IPU, SPIFFE, Virtio-vsock, Hyperdisk, Private Service Connect, VPC Service Controls
* **라이선스:** (공개되지 않음, Google Cloud 서비스)
* **저장소:** (공개되지 않음, Google Cloud 내부 개발)
### 향후 전망
Agent Compute Engine은 2024년 10월 23일에 공개되었으며, 향후 몇 달 안에 미리 보기(preview) 버전이 출시될 예정입니다. 이는 구글이 AI 인프라 분야에서 지속적으로 혁신하고 있음을 보여줍니다. 경쟁 구도 측면에서는, AWS, Microsoft Azure 등 다른 주요 클라우드 제공업체들도 유사한 AI 에이전트 관련 컴퓨팅 서비스를 개발하거나 강화할 가능성이 높습니다. 구글의 Agent Compute Engine은 Gemini, Gemini for Business, Antigravity 등 구글 내부의 다양한 AI 프로젝트를 지원하며 검증된 기술이라는 점에서 경쟁 우위를 가질 수 있습니다.
장기적으로 Agent Compute Engine은 AI 에이전트의 복잡성과 다양성이 증가함에 따라 더욱 발전할 것입니다. 예를 들어, 에이전트 간의 협업을 위한 고급 네트워킹 기능, 특정 산업에 특화된 보안 및 규제 준수 기능, 그리고 더욱 정교한 자원 관리 및 최적화 기능이 추가될 수 있습니다. 또한, 오픈 소스 커뮤니티와의 협력을 통해 에이전트 개발 생태계를 확장하고, 새로운 AI 모델 및 애플리케이션의 등장을 촉진할 것으로 예상됩니다. 다만, 행성 규모의 AI 에이전트 운영은 여전히 막대한 컴퓨팅 자원을 요구하며, 에너지 소비 및 환경 영향에 대한 고려도 중요해질 것입니다. 또한, AI 에이전트의 자율성이 증가함에 따라 윤리적 문제, 책임 소재, 그리고 잠재적인 오용 가능성에 대한 사회적, 기술적 논의가 더욱 활발해질 것입니다.
📝 원문 및 참고
- 원문: [링크 열기](https://cloud.google.com/blog/topics/ai-infrastructure/agent-compute-engine-deep-dive?hl=en)
- GeekNews 토픽: [보기](https://news.hada.io/topic?id=35917)
---
출처: GeekNews ([원문 링크](https://cloud.google.com/blog/topics/ai-infrastructure/agent-compute-engine-deep-dive?hl=en))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.