[The Verge] 앤트로픽, AI로 AI 개발 가속화… 연구자들 '경고등'
21
설명
인공지능(AI) 개발 경쟁이 치열해지는 가운데, AI 자체를 활용해 AI 모델을 더욱 빠르고 효율적으로 개선하려는 시도가 본격화되고 있다. 이러한 'AI가 AI를 개발하는' 방식은 과거에도 이론적으로 논의되었으나, 최근 앤트로픽(Anthropic)의 사례는 이를 현실화하고 있다는 점에서 주목받는다. 2023년 10월 26일(목) 공개된 AI 안전 연구 기관 METR의 보고서는 앤트로픽이 AI 개발 프로세스 자동화를 통해 모델 성능을 비약적으로 향상시키고 있음을 보여준다. 이는 AI 안전성 확보라는 기존의 목표와 더불어, AI 기술 발전 속도 자체에 대한 새로운 질문을 던진다.
METR의 11주간 내부 조사 결과에 따르면, 앤트로픽의 AI 모델들은 약 1년 전 대비 두 배가량 빠른 속도로 개선되고 있으며, 이러한 추세는 둔화될 기미를 보이지 않는다. 이는 앤트로픽이 자체 개발한 AI 시스템을 활용하여 새로운 AI 모델을 훈련하고 최적화하는 데 성공했음을 시사한다. 이러한 자동화된 개발 방식은 모델의 성능 향상을 가속화할 뿐만 아니라, 개발 비용과 시간을 절감하는 효과를 가져올 수 있다. 그러나 동시에 AI의 발전 속도가 인간의 통제 능력을 넘어설 수 있다는 우려도 제기된다. 특히, 앤트로픽의 CEO인 다리오 아모데이(Dario Amodei)는 이러한 AI 기반 개발 방식이 AI 안전 연구에도 긍정적인 영향을 미칠 수 있다고 주장하지만, METR 보고서는 이러한 자동화된 시스템의 잠재적 위험성에 대한 면밀한 검토가 필요함을 강조한다. 이번 조사는 여름철 발생했던 고위험 해킹 사건 이후 안전 연구자들에게 제공되는 '직원 수준'의 시스템 접근 프로그램과는 별개로 진행되었다는 점에서, 독립적인 평가의 신뢰도를 높인다.
### 향후 전망
앤트로픽의 AI 기반 개발 방식은 향후 AI 업계 전반에 걸쳐 자동화 및 효율화 경쟁을 심화시킬 가능성이 높다. 경쟁사들 역시 유사한 기술 개발에 박차를 가할 것이며, 이는 AI 모델의 성능 향상 속도를 더욱 가속화할 것이다. 규제 당국은 이러한 기술 발전 속도를 따라잡기 위한 새로운 접근 방식을 모색해야 할 것이다. AI의 발전 속도가 빨라짐에 따라, 안전성 검증 및 윤리적 가이드라인 마련의 중요성이 더욱 커질 전망이다. 앤트로픽의 향후 로드맵은 AI 개발 자동화의 성공 여부와 함께, 이 과정에서 발생하는 잠재적 위험을 어떻게 관리하고 통제할 수 있을지에 대한 실질적인 해답을 제시해야 할 것이다.
**시사점** — AI가 AI를 개발하는 시대, 앤트로픽의 빠른 성장은 기술 발전의 속도와 안전성의 균형에 대한 근본적인 질문을 던진다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/1029126/anthropic-metr-report-accelerating-ai-development))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.