[The Verge] 앤트로픽, 백악관 AI 모델 접근 차단 명령에 '정면 반박'
26
설명
인공지능(AI) 모델의 잠재적 위험성과 규제 필요성에 대한 논의가 전 세계적으로 뜨겁다. 특히, 최첨단 AI 기술이 사이버 공격 등 악의적인 목적으로 사용될 수 있다는 우려는 각국 정부의 주목을 받고 있다. 이러한 가운데, AI 스타트업 앤트로픽(Anthropic)이 최근 출시한 고성능 AI 모델에 대해 미국 백악관으로부터 해외 접근 차단 명령을 받으면서 논란의 중심에 섰다.
앤트로픽은 이미 국방부와의 갈등으로 정부와 한 차례 마찰을 겪고 있었다. 이러한 상황에서 6월 12일, 앤트로픽은 가장 최근에 출시된 AI 모델인 Fable 5와 Mythos 5에 대한 해외 접근을 차단하라는 행정 명령을 받았다. Fable 5는 6월 9일 출시 당시, 앤트로픽이 "지금까지 일반적으로 제공한 어떤 모델보다 뛰어난 성능을 자랑한다"고 밝힌 바 있다. 또한, Claude Mythos 5는 동일한 기반 모델을 사용하지만, 일부 영역에서 안전장치가 해제된 버전이라고 설명했다. 이번 조치는 아마존과 백악관 간의 대화 이후 나온 것으로 알려졌는데, 연구자들이 Fable 5를 통해 사이버 공격에 활용될 수 있는 정보를 얻어내는 방법을 발견했다는 보고가 있었기 때문이다.
앤트로픽은 백악관의 명령에 즉각적으로 대응하며 Fable 5와 Mythos 5에 대한 모든 고객의 접근을 차단했다. 회사는 "정부의 법적 지시를 준수하며 Fable 5와 Mythos 5에 대한 모든 사용자의 접근을 제거하고 있다"고 밝혔지만, 동시에 "좁은 범위의 잠재적 탈옥(jailbreak) 발견이 수억 명에게 배포된 상용 모델을 회수할 사유가 된다는 점에는 동의하지 않는다"는 입장을 분명히 했다. 이는 앤트로픽이 기술 발전과 안전 사이의 균형점을 찾으려는 노력과 정부의 규제 요구 사이에서 겪는 딜레마를 보여준다. 특히, "안전장치가 해제된" Mythos 5 모델의 존재는 AI의 윤리적 사용과 통제에 대한 근본적인 질문을 던진다. 중국이 Mythos에 접근했을 가능성에 대한 보도와 아마존 보안 연구가 이번 Fable 모델 차단에 영향을 미쳤다는 점은, AI 기술의 국제적 통제와 안보 문제의 복잡성을 시사한다.
### 향후 전망
이번 사태는 AI 규제에 대한 논의를 더욱 가속화할 것으로 보인다. 백악관의 이번 조치는 향후 다른 AI 기업들에게도 유사한 압력으로 작용할 수 있으며, AI 모델의 개발 및 배포 과정에서 정부의 개입이 더욱 강화될 가능성을 시사한다. 앤트로픽은 이번 명령에 대해 법적 이의를 제기하거나, 혹은 정부와 협력하여 안전장치를 강화한 새로운 버전을 출시하는 방안을 모색할 수 있다. 또한, 이번 사건은 미국 외 다른 국가들이 자체적인 AI 기술 개발 및 규제 프레임워크를 구축하는 데 더욱 박차를 가하게 만들 수 있다. 특히, 중국과 같은 경쟁국의 AI 기술 접근 가능성에 대한 우려는 국제적인 기술 패권 경쟁을 더욱 심화시킬 수 있다. 앤트로픽의 향후 행보와 정부의 추가적인 규제 움직임이 AI 산업의 미래 로드맵을 결정하는 중요한 변수가 될 것이다.
**시사점** — 앤트로픽의 Fable 5 및 Mythos 5 접근 차단은 AI 기술의 발전 속도와 규제 필요성 사이의 긴장을 극명하게 보여주며, 향후 AI 산업의 방향성에 중대한 영향을 미칠 사건이다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/950026/anthropic-fable-mythos-ban-ai-shutdown))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.