[Techmeme 요약] 미국 사법기관, 2021년부터 AI를 테러 조장 도구이자 공격 대상으로 인식
8
설명
미국 연방수사국(FBI), 국토안보부(DHS), 뉴욕경찰청(NYPD) 등 사법기관 문서에 따르면, 2021년부터 인공지능(AI)이 폭력적 극단주의를 조장하는 도구이자 동시에 공격의 대상이 될 수 있다는 인식이 확산되었습니다.
이들 기관은 AI 챗봇을 이용한 테러 계획 수립 및 AI 기술 자체에 대한 반감으로 인한 극단주의 위협을 경고하고 있습니다.
AI 기술의 발전 속도에 맞춰 범죄에 악용될 가능성에 대한 우려와 함께, AI 인프라 보호의 필요성도 제기되고 있습니다.
### 배경 설명
최근 공개된 미국 사법기관 및 정보기관의 문서들은 2021년부터 연방수사국(FBI), 국토안보부(DHS), 뉴욕경찰청(NYPD) 등에서 인공지능(AI)을 테러리스트들이 공격을 계획하고 실행하는 데 사용하는 '도구'이자, 동시에 AI 기술 자체를 겨냥하는 '대상'으로 간주해왔음을 보여줍니다.
이 문서들은 주로 2021년부터 2026년 사이에 작성되었으며, 연방, 주, 지방 사법기관 네트워크에 배포된 80건 이상의 문서를 포함합니다. 이 문서들은 AI가 어떻게 극단주의자들의 공격 계획 수립, 신규 회원 모집, 딥페이크(deepfake) 및 선거 관련 허위 정보, 아동 성 착취물(CSAM) 제작 및 유포에 악용될 수 있는지에 대한 논의를 담고 있습니다.
또한, AI를 이용해 범죄자들이 경찰의 탐지를 피하면서 무기 제조법이나 폭탄 제조법에 대한 정보를 얻을 수 있다는 점과, 경찰이 소셜 미디어 모니터링 등 AI 도구를 활용하는 동시에 대중의 우려를 관리해야 하는 과제도 언급되었습니다. AI에 대한 반대 여론과 데이터센터에 대한 잠재적 공격 위협을 감시하는 내용도 포함되어 있습니다.
### AI, 테러리스트의 새로운 무기
2025년 5월, 팜스프링스에서 발생한 차량 폭탄 테러 사건은 FBI가 오랫동안 우려해왔던 시나리오를 현실로 만들었습니다. 범인은 AI 챗봇에게 폭탄 제조법을 문의했으나, AI의 안전 장치가 이를 제대로 탐지하지 못했습니다. FBI는 이러한 사례가 반복될 것이며, '탈옥(jailbreaking)' 기법을 통해 위험한 정보에 접근하는 악의적인 행위자들이 생성형 AI(Generative AI) 도구를 더욱 적극적으로 사용할 것이라고 경고했습니다. 특히, AI가 생성한 딥페이크, 선거 허위 정보, 아동 성 착취물(CSAM) 등의 확산 가능성도 심각하게 받아들여지고 있습니다.
### AI 인프라를 겨냥한 극단주의
한편, AI 기술 자체에 대한 반감과 이를 둘러싼 사회적 논란이 커지면서, 사법기관은 AI 인프라, 특히 데이터센터에 대한 공격 위협도 주시하고 있습니다. 과거에도 극단주의 세력은 사회 기반 시설을 공격하여 사회 붕괴를 유발하려 했으며, 이러한 움직임은 AI 시대에 더욱 심화될 수 있다는 우려가 제기됩니다. 2021년 10월, FBI와 DHS 등은 극우 성향의 인물이 아마존 웹 서비스(AWS) 데이터센터를 폭파하려던 계획을 적발하기도 했습니다. 최근에는 소셜 미디어와 온라인 포럼에서 데이터센터를 파괴하겠다는 위협적인 게시물들이 감지되고 있으며, AI 기업 CEO나 데이터센터 건설을 지지하는 공직자들에 대한 살해 협박까지 등장하고 있습니다.
### AI 시대의 사법기관 과제
AI 기술의 발전은 사법기관의 업무에도 영향을 미치고 있습니다. AI는 소셜 미디어 모니터링 등 수사 활동에 유용하게 활용될 수 있지만, 동시에 AI로 생성된 가짜 영상이나 증거를 이용한 경찰 기만 행위도 증가하고 있습니다. 예를 들어, 2026년 3월 플로리다에서는 남성이 경찰관에게 AI로 생성된 순찰차 파손 영상을 보여주며 기만하려다 체포되었습니다. 또한, AI 모델의 사적인 특성 때문에 범죄자들이 수사기관의 '경고 신호(tripwires)'를 쉽게 우회할 수 있다는 점도 문제입니다. 이에 따라 FBI는 AI 기업과의 협력을 강화하여 정보 공유 채널을 구축할 것을 권고하고 있습니다.
### 가치와 인사이트
이번 문건 공개는 AI 기술이 양날의 검과 같다는 점을 명확히 보여줍니다. 한편으로는 범죄 예방 및 수사에 활용될 잠재력을 지니고 있지만, 다른 한편으로는 테러, 범죄, 허위 정보 확산 등 악의적인 목적으로 악용될 수 있는 위험성을 내포하고 있습니다. 특히, AI 기술의 빠른 발전 속도는 사법기관이 이에 대응하기 위한 새로운 전략과 기술적 역량을 지속적으로 확보해야 함을 시사합니다.
### 향후 전망
AI 기술의 발전은 앞으로도 범죄 양상과 사회 안보에 지속적인 영향을 미칠 것입니다. 사법기관은 AI를 활용한 범죄에 효과적으로 대응하기 위해 AI 탐지 및 분석 기술을 고도화하고, AI 기업과의 협력을 강화하며, AI 기술의 오용을 막기 위한 법적, 제도적 장치를 마련해야 할 것입니다.
동시에, AI 기술에 대한 대중의 우려와 반감이 확산됨에 따라, 사법기관의 AI 기술 활용에 대한 투명성과 책임성을 확보하는 것이 중요해질 것입니다. 이는 AI 기술이 사회에 긍정적으로 기여할 수 있도록 균형 잡힌 접근 방식을 모색하는 데 필수적입니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/261014/p16#a261014p16)
- 원문 기사: [링크 열기](https://www.theguardian.com/technology/ng-interactive/2026/oct/14/ai-terror-plots-fbi-extremism)
---
출처: Techmeme ([Original Article](https://www.theguardian.com/technology/ng-interactive/2026/oct/14/ai-terror-plots-fbi-extremism))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.