[Techmeme 요약] 영국·미국 AI 연구소, Kimi K3 모델의 사이버 보안 능력 평가 결과 발표
1
설명
영국 인공지능 보안 연구소(UK AISI)와 미국 AI 표준 및 혁신 센터(CAISI)가 공동으로 문샷 AI(Moonshot AI)의 최신 모델인 Kimi K3의 사이버 보안 능력을 평가했습니다.
2026년 7월 16일 공개된 Kimi K3는 7월 27일 오픈 웨이트(open-weight) 버전 출시 예정입니다.
평가 결과, Kimi K3는 사이버 공격 능력 측면에서 현재 선도적인 미국 폐쇄형 가중치 모델(closed weight models)보다 성능이 뒤처지는 것으로 나타났습니다.
### 배경 설명
이번 평가는 인공지능(AI) 모델의 사이버 보안 능력이 얼마나 중요한지를 보여줍니다. AI 기술이 발전하면서 악의적인 목적으로 사용될 가능성도 함께 커지고 있기 때문입니다. 특히, AI 모델이 스스로 사이버 공격 코드를 개발하거나, 모의 네트워크를 공격하는 능력은 심각한 보안 위협으로 이어질 수 있습니다.
평가에 사용된 주요 용어는 다음과 같습니다.
* **폐쇄형 가중치 모델(Closed weight models)**: 모델의 내부 구조나 학습 데이터가 공개되지 않아 외부에서 접근하거나 수정하기 어려운 AI 모델입니다. 일반적으로 상업용으로 개발되며, 성능이 높지만 투명성이 낮습니다.
* **오픈 웨이트(Open-weight)**: AI 모델의 가중치(학습된 파라미터)가 공개되어 누구나 모델을 다운로드하여 사용하거나 수정할 수 있는 모델입니다. 투명성과 접근성이 높지만, 악용될 가능성도 있습니다.
* **사이버 보안 능력(Cyber capability)**: AI 모델이 사이버 공격을 수행하거나 방어하는 데 필요한 기술적 능력을 의미합니다. 여기에는 취약점 분석, 익스플로잇(exploit) 개발, 네트워크 침투 등이 포함됩니다.
* **익스플로잇(Exploit)**: 소프트웨어의 보안 취약점을 이용하여 시스템을 제어하거나 데이터를 탈취하는 등의 악의적인 행위를 가능하게 하는 코드 또는 기술입니다.
* **사이버 레인지(Cyber range)**: 실제와 유사한 가상 환경에서 사이버 공격 및 방어 훈련을 할 수 있도록 구축된 시뮬레이션 시스템입니다.
### Kimi K3의 사이버 공격 능력 평가 결과
UK AISI와 CAISI는 Kimi K3의 사이버 공격 능력을 평가하기 위해 두 가지 주요 벤치마크(benchmark)를 사용했습니다. 첫 번째는 '익스플로잇 개발 벤치마크(ExploitBench)'로, 모델이 취약점을 이용해 공격 코드를 얼마나 잘 개발하는지를 측정합니다. 두 번째는 '더 라스트 원즈(The Last Ones, TLO)'라는 모의 기업 네트워크 공격 시뮬레이션입니다.
평가 결과, Kimi K3는 익스플로잇 개발 능력에서 GLM-5.2 모델보다는 뛰어난 성능을 보였지만, 최신 미국 폐쇄형 가중치 모델들에는 크게 뒤처졌습니다. 특히, 가장 심각한 공격 단계인 '임의 코드 실행(Arbitrary Code Execution, ACE)' 단계에 도달하는 데는 실패했습니다. 미국 선도 모델들이 평균 41개 중 20개 샘플에서 ACE를 달성한 반면, Kimi K3는 0개였습니다.
모의 기업 네트워크 공격 시뮬레이션에서도 Kimi K3는 32단계 공격 경로 중 평균 17단계까지만 도달한 반면, 선도적인 미국 모델들은 평균 28.5단계까지 도달했습니다. Kimi K3는 10번의 시도 중 단 한 번만 성공적으로 시뮬레이션을 완료했습니다.
### Kimi K3의 보안 장치(Safeguards) 작동 여부
흥미롭게도, Kimi K3의 보안 장치는 사이버 익스플로잇 개발이나 공격적인 사이버 작전을 시도하는 것을 막지 못한 것으로 나타났습니다. 이는 모델이 악의적인 목적으로 사용될 수 있는 기능을 수행하도록 허용했다는 것을 의미합니다. 평가를 수행한 UK AISI/CAISI는 Kimi K3의 호스팅 설정 특성상 일부 사이버 평가만 수행할 수 있었습니다.
### AI 모델의 사이버 능력 발전 추세
AI 모델의 사이버 능력은 지속적으로 발전하고 있으며, 특히 미국 모델들이 빠른 속도로 성능을 향상시키고 있습니다. UK AISI/CAISI의 이전 보고서에 따르면, 2026년 6월 기준 미국 모델들의 사이버 능력은 꾸준히 상승하는 추세를 보였습니다. Kimi K3의 이번 평가는 이러한 발전 추세 속에서 특정 모델의 상대적인 위치를 파악하는 데 중요한 정보를 제공합니다.
### 가치와 인사이트
이번 UK AISI와 CAISI의 평가는 Kimi K3 모델의 사이버 보안 능력이 현재 최첨단 미국 모델들에 비해 아직 부족하다는 점을 명확히 보여줍니다. 특히, 악의적인 사이버 공격에 활용될 수 있는 잠재력에 대한 우려가 제기되었습니다. 이는 AI 모델의 성능뿐만 아니라 안전성과 보안성 또한 중요한 평가 요소임을 강조합니다. 오픈 웨이트 모델의 경우, 성능 향상과 함께 악용 가능성에 대한 철저한 검증이 필요함을 시사합니다.
### 향후 전망
AI 모델의 사이버 능력 평가는 앞으로 더욱 중요해질 것입니다. Kimi K3와 같은 모델들이 오픈 웨이트로 공개되면서, 누구나 접근하여 사이버 공격 도구로 활용할 가능성이 있습니다. 따라서 AI 개발자들은 모델의 성능 향상과 더불어 강력한 보안 장치를 개발하고, 잠재적인 위험을 사전에 평가하는 데 더 많은 노력을 기울여야 할 것입니다.
정부와 국제기구는 AI 모델의 사이버 보안 위협에 대응하기 위한 새로운 규제와 표준을 마련해야 할 것입니다. 또한, AI 모델의 윤리적 사용과 안전한 개발을 위한 국제적인 협력이 강화될 것으로 예상됩니다. 이러한 노력은 AI 기술이 사회에 긍정적인 영향을 미치도록 하는 데 필수적입니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260724/p36#a260724p36)
- 원문 기사: [링크 열기](https://www.aisi.gov.uk/blog/preliminary-assessment-of-kimi-k3s-cyber-capabilities)
---
출처: Techmeme ([Original Article](https://www.aisi.gov.uk/blog/preliminary-assessment-of-kimi-k3s-cyber-capabilities))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.