[GeekNews 요약] Tencent, AI 생태계 보안 강화를 위한 오픈소스 레드팀 플랫폼 'AI-Infra-Guard' 공개
1
설명
Tencent Zhuque Lab에서 AI 인프라와 에이전트의 보안 취약점을 점검하는 오픈소스 레드팀 플랫폼 'AI-Infra-Guard'를 공개했습니다. 이 플랫폼은 Agent Scan, Skills Scan, MCP scan, AI Infra scan, LLM jailbreak 평가 등 다양한 기능을 통합하여 AI 생태계 전반의 보안 위험을 자체적으로 점검할 수 있도록 지원합니다. 2026년 9월 17일 v4.6.2 버전 출시와 함께 지속적인 업데이트를 통해 AI 보안 분야의 발전에 기여하고 있습니다.
### 배경 설명
최근 AI 기술의 급격한 발전과 함께 AI 시스템의 보안 취약점 또한 중요한 문제로 대두되고 있습니다. 특히, AI 에이전트의 복잡성 증가와 다양한 외부 도구 및 서비스와의 연동은 새로운 공격 표면을 만들어내고 있습니다. 이러한 상황에서 AI 시스템의 보안을 선제적으로 점검하고 잠재적 위협을 식별하는 '레드팀' 활동의 중요성이 커지고 있습니다. AI-Infra-Guard는 이러한 산업적 요구에 부응하여, AI 인프라부터 에이전트의 스킬, 그리고 모델 자체의 취약점까지 포괄적으로 탐지할 수 있는 통합 솔루션을 제공합니다. 이는 기존의 개별적인 보안 도구들을 넘어, AI 생태계 전반을 아우르는 종합적인 보안 점검 프레임워크의 필요성을 보여줍니다. Tencent Zhuque Lab은 2019년부터 AI 보안 분야에서 활발한 연구를 수행해왔으며, NVIDIA, Google, Microsoft 등 주요 기업 및 OpenClaw, Linux, Hugging Face와 같은 오픈소스 커뮤니티와 협력하여 다수의 고위험 취약점을 해결하는 데 기여해왔습니다. AI-Infra-Guard는 이러한 경험과 연구 성과를 집약한 결과물로, AI 보안 분야의 발전에 중요한 역할을 할 것으로 기대됩니다.
### 1. AI-Infra-Guard란 무엇인가?
AI-Infra-Guard는 Tencent Zhuque Lab에서 개발한 풀스택 AI 레드팀 플랫폼으로, AI 생태계의 보안을 강화하는 것을 목표로 합니다. 이 플랫폼은 Agent Scan, Skills Scan, MCP scan, AI Infra scan, LLM jailbreak 평가 등 다양한 보안 점검 기능을 통합하여 제공합니다. 사용자는 이 플랫폼을 통해 AI 시스템의 잠재적인 보안 위험을 스스로 탐지하고 평가할 수 있습니다. 또한, 2026년 9월 17일 v4.6.2 버전 출시를 통해 취약점 라이브러리가 확장되고 스킬 스캔의 정확도가 향상되는 등 지속적인 기능 개선이 이루어지고 있습니다. AI-Infra-Guard는 기업 내부 또는 개인 사용자가 AI 보안 위험을 자체적으로 점검할 수 있도록 설계되었으며, Apache 2.0 라이선스로 오픈소스로 공개되어 누구나 자유롭게 사용하고 기여할 수 있습니다.
### 2. 주요 기능 및 구성 요소
AI-Infra-Guard는 다음과 같은 핵심 기능들을 제공합니다:
* **Agent Scan**: 다중 에이전트 자동 스캔 프레임워크로, Dify 및 Coze와 같은 다양한 플랫폼에서 실행되는 AI 에이전트 워크플로우의 보안을 평가합니다.
* **Skills Scan**: 에이전트 스킬의 보안 취약점을 탐지하며, SkillTrustBench T01–T09 분류 체계에 따라 Instruction & Memory, Code Execution, System Privilege, Toolchain & Dependencies, Skill Code Quality 등 9가지 범주의 보안 위험을 다룹니다. 2026년 8월 17일 v4.5.2 버전에서는 .pyc 바이트코드 우회 탐지 및 문자셋 스머글링 방어 기능이 추가되었습니다.
* **MCP Server & Agent Skills scan**: MCP 서버 및 에이전트 스킬에서 14가지 주요 보안 위험을 탐지하며, 소스 코드 및 원격 URL 스캔을 모두 지원합니다. 2026년 9월 10일 v4.6.1 버전에서는 MCP-Scan의 안정성이 향상되었습니다.
* **AI Infra vulnerability scan**: Ollama, ComfyUI, vLLM, n8n, Triton Inference Server 등 100개 이상의 AI 프레임워크 구성 요소를 대상으로 2000개 이상의 알려진 CVE 취약점을 정확하게 식별합니다. 2026년 8월 26일 v4.6.0 버전에서는 취약점 라이브러리가 146개 AI 구성 요소 및 2000개 이상의 CVE 규칙으로 확장되었습니다.
* **LLM jailbreak Evaluation**: 엄선된 데이터셋을 사용하여 프롬프트 보안 위험을 평가하고, 다양한 공격 방법을 적용하여 견고성을 테스트합니다. 2026년 7월 30일 v4.5.1 버전에서는 4가지 멀티턴 탈옥 공격(Many-Shot, PAIR, GOAT, ActorAttack)이 추가되었습니다.
* **Model and API Relay Checker**: 모델 지문 인식, Claude Signature 검증, 릴레이 블랙박스 감사, PAMELA 및 Ventor QTest 기능을 제공합니다. 2026년 9월 10일 v4.6.1 버전에서는 API Checker의 모델 지문 인식 범위가 확장되었습니다.
### 3. 설치 및 사용 편의성
AI-Infra-Guard는 Docker를 이용한 간편한 배포를 지원하며, `docker-compose.images.yml` 파일을 사용하여 사전 빌드된 이미지를 빠르게 시작할 수 있습니다. 또한, 원클릭 설치 스크립트(`docker.sh`)를 통해 Docker 설치부터 AI-Infra-Guard 실행까지 한 번에 진행할 수 있습니다. 소스 코드에서 직접 빌드하고 실행하는 옵션도 제공됩니다. CLI 도구인 `aig-skill-scan`은 단일 명령어로 에이전트 스킬 보안 감사를 수행할 수 있어 CI/CD 파이프라인에 쉽게 통합될 수 있습니다. 웹 인터페이스는 사용자 친화적으로 설계되어 원클릭 스캔 및 실시간 진행 상황 추적을 지원하며, 포괄적인 API 문서와 Swagger 사양을 제공하여 외부 시스템과의 통합을 용이하게 합니다. 다국어 지원(중국어, 영어) 및 Linux, macOS, Windows를 포함한 크로스 플랫폼 호환성도 갖추고 있습니다.
### 가치와 인사이트
AI-Infra-Guard의 등장은 AI 시스템의 보안이 더 이상 선택이 아닌 필수가 되었음을 시사합니다. 특히, 복잡하고 동적인 AI 에이전트 환경에서 발생하는 다양한 보안 위협에 대한 체계적인 대응책 마련이 시급한 상황입니다. 이 플랫폼은 개발자 및 보안 전문가들에게 AI 인프라, 에이전트 스킬, LLM 프롬프트 등 AI 생태계 전반에 걸친 취약점을 종합적으로 점검할 수 있는 강력한 도구를 제공합니다. 오픈소스라는 점은 접근성을 높여 더 많은 개발자와 연구자들이 참여하고 기여할 수 있는 생태계를 조성하며, 이는 곧 AI 보안 기술의 빠른 발전으로 이어질 것입니다. 실무적으로는 CI/CD 파이프라인에 `aig-skill-scan`과 같은 CLI 도구를 통합하여 개발 초기 단계부터 보안을 강화하고, 잠재적인 보안 사고를 예방하는 데 크게 기여할 수 있습니다. 또한, MCP 프로토콜, 에이전트 탈옥 공격 등 최신 AI 보안 연구 동향을 반영한 기능들은 최전선에서 AI 보안을 담당하는 전문가들에게 귀중한 인사이트를 제공할 것입니다.
### 기술·메타
* **License**: Apache License 2.0
* **Repository**: https://github.com/Tencent/AI-Infra-Guard
* **Documentation**: https://tencent.github.io/AI-Infra-Guard/
* **Key Components**: Agent Scan, Skills Scan, MCP Scan, AI Infra Scan, LLM Jailbreak Evaluation
* **Supported Frameworks (AI Infra Scan)**: Ollama, ComfyUI, vLLM, n8n, Triton Inference Server, LangFlow, PraisonAI, MLflow, llama-cpp 등
* **Programming Languages**: Go, Python, Shell (implied by Dockerfile and scripts)
### 향후 전망
AI-Infra-Guard는 지속적인 업데이트와 기능 확장을 통해 AI 보안 분야의 선도적인 오픈소스 플랫폼으로 자리매김할 것으로 예상됩니다. 특히, 2026년 9월 17일 v4.6.2 버전에서 언급된 CVE 규칙 확장 및 스킬 스캔 정확도 향상은 향후에도 이러한 추세가 이어질 것임을 시사합니다. 향후에는 더욱 정교한 에이전트 행동 분석, 제로데이 취약점 탐지 기술, 그리고 다양한 AI 모델 및 프레임워크에 대한 지원이 확대될 가능성이 높습니다. 또한, Tencent Zhuque Lab의 활발한 연구 활동과 학계 및 산업계와의 협력을 통해 새로운 공격 기법에 대한 방어 메커니즘이 지속적으로 추가될 것입니다. 경쟁 구도 측면에서는 상용 AI 보안 솔루션들과의 차별화된 강점을 유지하면서, 오픈소스 커뮤니티의 힘을 바탕으로 빠르게 발전해 나갈 것입니다. 다만, AI 기술의 발전 속도가 매우 빠르기 때문에, 최신 위협에 대한 신속한 대응과 지속적인 업데이트가 플랫폼의 성공에 중요한 변수가 될 것입니다. 또한, 사용자 피드백을 적극적으로 반영하고 커뮤니티 참여를 독려하는 노력이 플랫폼의 성장과 발전에 필수적입니다.
📝 원문 및 참고
- 원문: [링크 열기](https://github.com/Tencent/AI-Infra-Guard)
- GeekNews 토픽: [보기](https://news.hada.io/topic?id=34645)
---
출처: GeekNews ([원문 링크](https://github.com/Tencent/AI-Infra-Guard))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.