[The Verge] 앤트로픽 연구원, AI가 '인류를 멸망시킬' 가능성 10% 이상 경고
35
설명
인공지능(AI)의 잠재적 위험성에 대한 논의는 AI 기술 발전의 역사와 궤를 같이해왔다. 특히 최근 몇 년간 GPT-3, GPT-4와 같은 거대 언어 모델(LLM)의 등장과 함께 AI의 능력은 비약적으로 향상되었고, 이는 통제 불가능한 초지능(superintelligence)의 출현 가능성에 대한 우려를 증폭시키고 있다. 앤트로픽(Anthropic)은 이러한 AI 안전 연구에 집중하는 대표적인 기업 중 하나로, 자체적인 AI 모델 개발과 더불어 AI의 윤리적이고 안전한 사용을 위한 연구를 병행해왔다. 그러나 이번 사태는 앤트로픽 내부에서도 AI 안전에 대한 근본적인 회의론과 함께, 경쟁사들과의 '안전하지 않은' 경쟁 구도가 심화되고 있음을 시사한다. 이는 단순히 기술적 진보를 넘어, 인류의 미래를 좌우할 수 있는 중대한 문제로 부상하고 있다.
앤트로픽의 선임 안전 연구원인 제이콥 콕슨(Jacob Coxon)은 X(구 트위터)에 올린 글을 통해 AI가 2030년까지 인류를 멸망시킬 확률이 10%를 넘는다고 주장하며 회사를 떠났다. 그는 앤트로픽뿐만 아니라 경쟁사인 OpenAI를 포함한 AI 기업들이 통제할 수 없는 '초지능 시스템'을 무모하게 개발 경쟁에 나서고 있다고 비판했다. 콕슨은 자신이 앤트로픽에서 AI 시스템을 훈련했던 경험과 OpenAI에서의 이전 경력을 언급하며, 두 회사 모두 '스스로 개선되는 초지능'을 향해 달려가고 있으며 이는 인류의 생명을 담보로 한 도박이라고 지적했다. 이러한 주장은 AI 개발 속도가 안전성 확보 속도를 훨씬 앞지르고 있다는 업계의 오랜 우려를 단적으로 보여준다. 특히, 콕슨과 같은 내부 연구원의 사임은 AI 기업들이 직면한 안전 문제의 심각성을 방증하며, 기술 발전의 속도와 윤리적 책임 사이의 간극이 얼마나 큰지를 드러낸다. 이는 AI 기술의 혜택을 극대화하는 동시에 잠재적 위험을 최소화해야 하는 과제를 안고 있는 우리 사회 전체에 중요한 질문을 던진다.
### 향후 전망
이번 앤트로픽 연구원의 폭로는 AI 안전 규제에 대한 논의를 더욱 가속화할 것으로 보인다. 각국 정부는 AI 개발에 대한 감독을 강화하고, 기업들에게는 더욱 엄격한 안전 기준 준수를 요구할 가능성이 높다. OpenAI와 같은 경쟁사들은 앤트로픽의 내부 동향을 주시하며 자체적인 안전 프로토콜을 재점검하거나, 혹은 오히려 개발 속도를 늦추지 않기 위한 전략을 모색할 수 있다. 앤트로픽은 내부적으로 연구원들의 우려를 해소하고 안전 연구에 대한 투자를 강화하는 방향으로 나아갈 수도 있지만, 경쟁 압력 속에서 이를 얼마나 실현할 수 있을지는 미지수다. 장기적으로는 AI 안전 연구가 더욱 독립적이고 투명하게 진행될 수 있도록 하는 국제적인 협력 체계 구축이 필요할 것이다. 그러나 '초지능'의 정의와 그 위험성을 객관적으로 측정하고 통제하는 방법에 대한 합의는 여전히 요원한 과제로 남아있다.
**시사점** — AI의 잠재적 위험성에 대한 내부 고발은 기술 발전 속도와 안전 확보 사이의 간극을 명확히 보여주며, 규제 강화와 책임 있는 개발을 촉구한다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.