[Techmeme 요약] 미 국방부, 안트로픽 AI 도구 사용 중단 결정... 이란 군사 작전에도 활용된 '클로드' 논란
0
설명
미국 국방부(DOD)가 인공지능(AI) 기업 안트로픽(Anthropic)의 도구 사용을 공식적으로 중단했습니다.
이는 안트로픽이 국가 안보상의 공급망 위험 기업으로 지정된 지 수개월 만에 나온 결정입니다.
하지만 최근까지도 이란 군사 작전을 포함한 다양한 작전에 안트로픽의 '클로드(Claude)' 모델이 활용된 것으로 알려져 논란이 일고 있습니다.
### 배경 설명
미국 국방부는 2024년부터 안트로픽의 AI 도구를 정부 기관의 기밀 업무에 도입하며 활용해 왔습니다. 특히 안트로픽의 '클로드'는 방대한 양의 정보를 분석하고 분류하는 데 중요한 도구로 여겨졌습니다. 그러나 올해 초, 국방부는 안트로픽에 '클로드'의 안전 장치를 제거하고 군에 무제한적인 접근 권한을 줄 것을 요구했습니다. 안트로픽이 대량 감시 및 자율 무기 시스템에 대한 우려를 이유로 이를 거부하자, 국방부 장관 피트 헤그세스는 안트로픽을 '국가 안보 공급망 위험' 기업으로 지정했습니다. 이는 통상 미국에 위협이 되는 국가의 기업에 적용되는 조치입니다. 안트로픽은 이러한 지정이 '전례 없고 불법적'이라며 행정부를 상대로 소송을 제기한 상태입니다. 이러한 법적 분쟁이 진행되는 동안에도 국방부는 구글, xAI, OpenAI 등 다른 주요 기술 기업들과 계약을 맺고 AI 도구를 도입하고 있습니다.
### 국방부의 안트로픽 AI 도구 사용 중단
미 국방부 관계자는 월요일(현지 시간) BBC에 안트로픽의 제품 사용을 '중단했다'고 밝혔습니다. 국방부 장관 피트 헤그세스는 지난 2월 안트로픽을 공급망 위험으로 지정하며 8월 말까지 사용을 중단하겠다고 발표한 바 있습니다. 그러나 실제 사용 중단 시점에는 다소 지연이 있었던 것으로 보입니다. 여러 관계자들은 BBC에 최근까지도 안트로픽의 '클로드' 모델이 연구, 분석, 정보 수집뿐만 아니라 이란에 대한 군사 작전에도 사용되었다고 전했습니다. 이들은 '클로드'가 방대한 정보를 처리하는 데 핵심적인 역할을 했다고 설명했습니다.
### 이란 군사 작전에 활용된 '클로드'
익명의 전직 국방부 관계자 및 AI 전문가들은 '클로드'가 팔란티어(Palantir)의 '메이븐 스마트 시스템(Maven Smart System)'이라는 데이터 플랫폼에 통합되어 사용되었다고 밝혔습니다. '메이븐'은 국방부의 정보 및 데이터를 정리하는 주요 플랫폼으로, 위성 이미지 및 드론 영상과 같은 시각 데이터를 분석하여 잠재적인 군사 표적을 식별하는 데 활용되었습니다. 이러한 정보는 '클로드'와 같은 대규모 언어 모델(LLM)에 입력되어 분석되었습니다. 한 소식통은 올해 초 팔란티어로부터 '메이븐' 시연을 받았는데, 당시에도 이러한 기술이 활용되는 것을 보았다고 전했습니다. '메이븐'은 일부 미국 동맹국들도 정보를 공유하는 데 사용하고 있습니다.
### 안트로픽과의 갈등과 대체 기술
안트로픽은 국방부의 '클로드' 안전 장치 제거 요구를 거부하며 법적 분쟁에 휘말렸습니다. 이 과정에서 국방부는 OpenAI의 도구를 포함한 다른 AI 솔루션을 적극적으로 도입하고 있습니다. 특히 최근 몇 달 동안 일부 군사 부서에서는 OpenAI의 도구가 더 널리 채택되고 있는 것으로 알려졌습니다. '메이븐' 시스템에 '클로드'가 깊숙이 통합되어 있어 이를 신속하게 제거하는 데 어려움이 있었을 것이라는 분석도 나옵니다. 조지타운 대학의 보안 및 신흥 기술 센터 선임 연구원 로렌 칸은 이러한 통합이 '플러그 앤 플레이' 방식이 아니며, 제거하는 데 고통이 따를 수 있다고 지적했습니다.
### 가치와 인사이트
이번 사건은 국가 안보와 첨단 기술의 도입 사이에서 발생하는 복잡한 딜레마를 보여줍니다. 국방부는 AI의 잠재력을 활용하고자 하지만, 동시에 공급망 위험과 데이터 보안에 대한 우려도 간과할 수 없습니다. 안트로픽과 같은 AI 기업들은 기술 발전과 윤리적 책임 사이에서 균형을 잡아야 하는 과제를 안고 있습니다. 또한, AI 시스템이 기존의 복잡한 군사 시스템에 통합될 경우, 이를 제거하거나 변경하는 데 상당한 시간과 노력이 소요될 수 있음을 시사합니다.
### 기술·메타
- AI 모델: Claude (Anthropic)
- 데이터 플랫폼: Maven Smart System (Palantir)
- 관련 기업: Anthropic, Palantir, Google, xAI, OpenAI
### 향후 전망
미국 국방부의 이번 결정은 다른 정부 기관 및 군사 기관에도 영향을 미칠 수 있습니다. AI 기술의 도입 및 활용에 대한 더욱 엄격한 기준과 절차가 마련될 가능성이 높습니다. 또한, AI 기업들은 정부와의 협력 과정에서 보안 및 윤리적 문제에 대한 명확한 입장을 제시하고, 정부의 요구 사항을 충족시키기 위한 기술적, 정책적 노력을 강화해야 할 것입니다. 장기적으로는 국가 안보를 위협하지 않으면서도 AI의 이점을 최대한 활용할 수 있는 새로운 형태의 AI 거버넌스(governance) 모델이 등장할 수 있습니다. 한편, 안트로픽과 같은 기업들은 정부와의 관계 회복 및 신뢰 구축을 위해 노력하는 동시에, 자체적인 기술 개발 및 사업 다각화를 모색할 것으로 예상됩니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/261005/p25#a261005p25)
- 원문 기사: [링크 열기](https://www.bbc.com/news/articles/c5j9x9pr0240o)
---
출처: Techmeme ([Original Article](https://www.bbc.com/news/articles/c5j9x9pr0240o))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.