[Techmeme 요약] AI 거물들, 'AI 개발 생물학 무기' 막기 위해 합성 DNA 추적 강화 촉구
12
설명
인공지능(AI) 기술 발전이 인류에게 가져올 잠재적 위험에 대한 경고가 이어지는 가운데, 주요 AI 기업의 최고경영자(CEO)들이 한목소리를 냈다. 이들은 AI가 생물학 무기 개발에 악용될 가능성에 깊은 우려를 표하며, 합성 DNA 추적 시스템 강화를 촉구하는 공개 서한에 서명했다. 이는 AI의 윤리적 사용과 인류 안전을 위한 중요한 논의의 시작을 알리며, 기술 발전의 이면을 돌아보게 한다.
### 배경 설명
**합성 DNA(Synthetic DNA)**는 자연에 존재하지 않거나 변형된 유전 물질을 인공적으로 만들어내는 기술입니다. 1950년대 아서 콘버그(Arthur Kornberg) 박사가 DNA를 성공적으로 합성한 이래, 이 기술은 과학 연구, 신약 개발, 진단 등 다양한 분야에서 혁신을 이끌어왔습니다. 오늘날에는 상업용 합성기(commercial synthesizers)를 통해 맞춤형 유전자 서열(genetic sequences)을 '프린트'하고 판매하는 것이 가능해졌습니다.
문제는 이러한 **유전자 합성(gene synthesis)** 기술이 악의적인 목적으로 사용될 수 있다는 점입니다. 특히 **대규모 언어 모델(LLM)**과 같은 인공지능(AI) 기술의 발전은 이 위험을 증폭시키고 있습니다. AI는 방대한 생물학 데이터를 분석하고, 잠재적으로 위험한 독소나 병원체(pathogens)를 설계하는 데 필요한 지식 장벽을 크게 낮출 수 있습니다. 과거에는 전문적인 생물학 지식이 필수적이었지만, AI의 도움으로 비전문가도 위험한 생물학적 물질을 설계하는 것이 가능해질 수 있다는 우려가 커지고 있습니다. 이러한 배경에서 AI 리더들은 AI가 **생물학 무기(bioweapons)** 개발에 악용될 가능성을 심각하게 보고 있습니다.
### AI 리더들의 경고: 생물학 무기 위협
오픈AI(OpenAI)의 샘 알트만(Sam Altman), 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei), 구글 딥마인드(Google DeepMind)의 데미스 하사비스(Demis Hassabis), 마이크로소프트 AI(Microsoft AI)의 무스타파 술레이만(Mustafa Suleyman) 등 주요 AI 기업 CEO와 과학자들이 연방 의원들에게 공개 서한을 보냈습니다. 이 서한은 AI 발전 속도를 고려할 때, '역사적으로 악의적인 행위자들이 생물학 무기를 얻는 것을 막았던 지식 장벽이 의미 있게 허물어질 가능성이 있다'고 경고합니다. 이들은 합성 DNA 및 RNA(리보핵산)를 판매하는 기업들이 고객과 주문을 철저히 심사하여 유전 물질의 오용을 막는 법률 제정을 촉구하고 있습니다. 이는 AI 기술의 잠재적 위험에 대한 업계 리더들의 깊은 우려를 반영합니다.
### AI와 유전자 합성의 위험한 결합
유전자 합성 기술은 지난 수십 년간 발전하며 비용이 크게 저렴해졌습니다. 2017년 캐나다 연구진은 10만 달러 상당의 우편 주문 DNA를 이용해 멸종된 말두창 바이러스(horsepox virus)를 재구성하여 경각심을 불러일으켰습니다. 비판론자들은 이와 동일한 방법론이 치명적인 천연두(smallpox) 바이러스 재구성에도 사용될 수 있다고 지적했습니다. 이제 AI의 발전은 이러한 위험을 한층 더 높입니다. 스탠퍼드 대학교(Stanford University)의 미생물학자이자 생물보안(biosecurity) 전문가인 데이비드 렐만(David Relman)은 'AI 도구는 사용자가 스크리닝(screening) 대상이 되지 않는 서열을 주문할 곳을 매우 빠르게 식별할 수 있게 한다'며, '적절히 지시하면, 스크리닝을 하는 곳에서도 무엇을 만들려 하는지 감지하기 훨씬 어렵게 주문의 성격을 바꾸는 방법도 알려줄 수 있다'고 경고했습니다. AI가 악용될 경우, 대량 살상, 공황, 경제적 손실을 초래할 수 있는 생물 테러 공격의 가능성이 커지는 것입니다.
### 현재의 스크리닝 시스템과 한계
많은 유전자 합성 공급업체들은 이미 자발적인 스크리닝 관행을 시행하고 있습니다. 국제 유전자 합성 컨소시엄(International Gene Synthesis Consortium)은 2009년에 결성되어 이러한 관행을 도입했습니다. 트위스트 바이오사이언스(Twist Bioscience)와 안사 바이오테크놀로지스(Ansa Biotechnologies) 같은 기업들은 유기체의 독성이나 질병 유발 능력에 기여할 수 있는 '우려 서열(sequences of concern)'을 걸러내기 위해 소프트웨어를 사용합니다. 그러나 이러한 스크리닝 도구는 완벽하지 않습니다. 작년 마이크로소프트(Microsoft) 연구진은 AI 단백질 설계 도구가 기업의 스크리닝 소프트웨어를 통과할 수 있는 잠재적으로 위험한 유전자 서열을 생성할 수 있음을 보여주는 연구 결과를 발표했습니다. 이는 AI가 기존의 안전장치를 우회할 수 있음을 시사하며, 현재의 방어 체계만으로는 충분하지 않다는 점을 명확히 보여줍니다.
### 미래를 위한 다층적 방어 전략
서한의 서명자들은 스크리닝 절차에 대한 규제가 해결책의 일부일 뿐이라고 강조합니다. 스탠퍼드 대학교의 데이비드 렐만은 '스크리닝이 일부 경우 실패할 수 있다는 점을 감안할 때, 우리는 다른 통제 지점을 가져야 한다'며, '바로 이 지점에서 AI 기업들이 나서야 할 것'이라고 말했습니다. Y 콤비네이터(Y Combinator) 전 사장이자 세이프 AI 펀드(Safe AI Fund) 파트너인 제프 랠스턴(Geoff Ralston)은 생물학 모델을 가진 AI 연구소들이 자체적으로 사용자 스크리닝을 해야 한다고 주장합니다. '모델에게 즉각적으로 위험한 일을 돕도록 요청하는 것은 매우 어렵거나 불가능해야 한다'는 것입니다. 이는 AI 개발 단계부터 악용 가능성을 차단하는 노력이 필요하며, 기술 기업, 정부, 연구기관의 다각적인 협력이 필수적임을 시사합니다.
### 가치와 인사이트
이 서한은 AI 기술의 발전이 가져올 수 있는 가장 심각한 윤리적, 안보적 문제 중 하나인 생물학 무기 개발 가능성에 대해 전 세계적인 경각심을 일깨웁니다. AI 리더들이 스스로 위험을 인지하고 규제 강화를 촉구한다는 점에서 그 의미가 큽니다. 이는 기술 개발의 속도만큼이나 안전과 책임에 대한 논의가 중요하며, 기술 기업, 정부, 연구기관이 협력하여 다층적인 방어 시스템을 구축해야 함을 보여줍니다. 단순한 기술적 해결책을 넘어, 법적, 윤리적, 사회적 합의가 필요한 복합적인 문제임을 시사하며, AI의 미래가 인류의 안전과 직결되어 있음을 강조합니다.
### 향후 전망
이번 서한을 계기로 AI와 생물학 기술의 융합에 대한 미래는 여러 면에서 변화를 맞이할 것입니다.
**산업 및 기술**: AI 개발 기업들은 앞으로 생물학 관련 모델을 개발할 때 더욱 엄격한 내부 안전 프로토콜과 사용자 스크리닝 시스템을 도입해야 할 것입니다. 이는 AI 모델의 설계 단계부터 악용 가능성을 최소화하는 '안전을 고려한 설계(Safety-by-design)' 원칙이 더욱 중요해질 것임을 의미합니다. 유전자 합성 산업은 고객 및 주문 스크리닝에 대한 법적 의무가 강화될 것이며, AI 기반 스크리닝 기술의 발전과 함께 규제 준수 비용이 증가할 수 있습니다. 또한, AI가 위험한 생물학적 서열을 생성하는 것을 막는 '가드레일(guardrails)' 기술 개발 경쟁이 가속화될 것입니다.
**규제 및 정책**: 각국 정부는 AI와 생물학 기술의 융합으로 인한 새로운 위협에 대응하기 위해 더욱 강력한 규제 프레임워크를 마련할 것입니다. 합성 DNA 및 RNA 판매에 대한 국제적인 표준과 법적 구속력을 가진 스크리닝 요건이 도입될 가능성이 높습니다. 이는 국경을 초월하는 생물학적 위협에 대한 국제 협력의 중요성을 부각시킬 것이며, 유엔(UN) 등 국제기구 차원의 논의도 활발해질 수 있습니다. 미국 상원에서 발의된 것과 같은 초당적 법안들이 더 많은 국가에서 논의될 것입니다.
**사회 및 안보**: AI 개발 생물학 무기의 위협은 국가 안보의 새로운 축으로 부상할 것입니다. 잠재적인 팬데믹(pandemic) 발생 가능성은 공중 보건 시스템과 사회 전반에 막대한 영향을 미칠 수 있으며, 이에 대한 대비책 마련이 시급해질 것입니다. 일반 대중에게는 AI 기술의 긍정적 측면뿐만 아니라 잠재적 위험에 대한 인식이 더욱 확산될 것이며, 기술 윤리에 대한 사회적 논의가 활발해질 것입니다. 이는 AI 기술의 발전이 단순히 경제적 이익을 넘어 인류의 생존과 직결될 수 있음을 보여주는 중요한 전환점이 될 것입니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260603/p68#a260603p68)
- 원문 기사: [링크 열기](https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/)
---
출처: Techmeme ([Original Article](https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/))
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.