[Techmeme 요약] 샌프란시스코, 애플·구글에 AI '누드 앱' 삭제 요구…구글, 5개 앱 삭제 확인 (2026년 7월 17일)
1
설명
샌프란시스코 시 검찰이 애플과 구글에 인공지능(AI)을 이용해 타인의 나체 이미지를 합성하는 '누드 앱' 13개를 앱 스토어에서 삭제하라고 공식적으로 요구했습니다.
이 앱들은 주로 여성을 대상으로 악용되고 있으며, 시 검찰은 이들 기업이 이러한 유해 기술로 수익을 얻는 것을 중단해야 한다고 강조했습니다.
구글은 이미 5개의 관련 앱을 삭제했으며, 애플은 아직 공식 입장을 밝히지 않았습니다.
### 배경 설명
최근 몇 년간 생성형 인공지능(Generative AI) 기술이 발전하면서, 딥페이크(Deepfake)와 같은 기술을 악용한 사례가 늘고 있습니다. 특히, 사용자가 제공한 사진에 인공지능을 이용해 옷을 벗기거나 성적인 이미지를 합성하는 '누드 앱'들이 문제가 되고 있습니다. 이러한 앱들은 주로 여성과 아동을 대상으로 하며, 심각한 사생활 침해와 정신적 피해를 야기합니다.
샌프란시스코 시 검찰은 이러한 앱들이 애플 앱스토어와 구글 플레이스토어에서 유통되며, 앱 개발사로부터 받는 수수료를 통해 기술 기업들이 수익을 얻고 있다고 지적했습니다. 캘리포니아 주 법률은 이러한 딥페이크 포르노 제작을 지원하는 서비스를 금지하고 있으며, 시 검찰은 두 거대 기술 기업이 이러한 불법 행위를 방조하고 있다고 주장하고 있습니다.
### 샌프란시스코 시 검찰의 법적 조치
2026년 7월 17일, 샌프란시스코 시 검찰의 데이비드 치우(David Chiu) 검찰총장은 애플과 구글에 각각 법적 통지서를 발송했습니다. 이 통지서에는 사용자의 얼굴을 다른 이미지에 합성하여 동의 없이 나체 이미지를 생성하는 13개의 '얼굴 바꾸기(face-swapping)' 앱을 앱 스토어에서 즉시 삭제하라는 내용이 담겨 있습니다. 치우 검찰총장은 이들 기업이 이러한 명백히 불법적이고 유해한 기술의 판매를 '조장하고 방조'하는 것을 중단하고, 앱 개발사와의 사업 관계를 '끊어야' 한다고 강조했습니다. 그는 또한 이러한 앱들이 수백만 달러의 수수료 수익을 가져다주었을 것이라며, 앱 스토어의 검토 과정을 강화하여 이러한 앱들이 처음부터 유통되지 않도록 해야 한다고 밝혔습니다.
### 구글의 대응 및 애플의 입장
구글 대변인 댄 잭슨(Dan Jackson)은 WIRED에 회사가 정책 위반으로 '수백 개'의 누드 합성 기능을 포함한 앱을 삭제했으며, 치우 검찰총장실이 지목한 5개의 안드로이드 앱도 포함된다고 밝혔습니다. 그는 구글 플레이스토어가 성적인 콘텐츠를 포함하는 앱을 허용하지 않으며, 유해한 콘텐츠를 탐지하고 제거하기 위해 지속적으로 선제적인 조치를 취하고 있다고 덧붙였습니다. 애플은 보도 시점까지 공식적인 답변을 제공하지 않았습니다. 그러나 과거 연구자들과 언론의 보고 이후 두 회사 모두 수십 개의 누드 앱 및 딥페이크 앱을 삭제한 바 있습니다.
### AI 누드 앱의 심각성과 기술적 문제
이 문제의 앱들은 종종 '얼굴 바꾸기' 도구로 광고되지만, 실제로는 사용자가 제공한 사진에 인공지능을 이용해 옷을 벗기거나 성적인 시나리오에 합성하는 기능을 제공합니다. 일부 앱은 100만 건 이상의 다운로드를 기록했으며, '비키니 여왕', '매력적인 가슴' 등 노골적인 성적 이미지를 생성하는 스타일을 광고하기도 합니다. 이러한 앱들은 종종 무료 또는 소액의 요금으로 빠르게 결과물을 제공하며, 생성형 AI 기술의 발전으로 이미지의 현실성이 더욱 높아지고 있습니다. 연구에 따르면, 이러한 앱들은 '이중 용도(dual-use)' 기술로, 일반적인 얼굴 바꾸기 앱으로 위장하여 콘텐츠 검토를 회피하는 경우가 많습니다. 2026년 5월 발표된 코넬 대학교와 조지타운 대학교 연구진의 논문은 구글과 애플의 앱 스토어에서 420개의 얼굴 바꾸기 앱을 식별했으며, 이 중 70%가 나체 이미지와 함께 얼굴 바꾸기 기능을 사용할 수 있음을 확인했습니다.
### 가치와 인사이트
이번 샌프란시스코 시 검찰의 조치는 AI 기술의 오용으로 인한 심각한 사회적 문제를 해결하기 위한 중요한 법적 개입입니다. 특히, 기술 기업들이 자신들의 플랫폼에서 유통되는 유해 콘텐츠로 인해 발생하는 피해에 대해 어느 정도의 책임을 져야 하는지에 대한 논의를 촉발시킵니다. 앱 스토어의 검토 과정이 기술 발전 속도를 따라가지 못하고 있으며, '이중 용도' 기술에 대한 보다 정교한 탐지 및 차단 메커니즘이 필요함을 시사합니다.
### 향후 전망
이번 사건은 향후 AI 기반 콘텐츠 생성 및 유통에 대한 규제 강화로 이어질 가능성이 높습니다. 애플과 구글과 같은 플랫폼 기업들은 앱 검토 프로세스를 더욱 강화하고, AI 기술의 잠재적 오용을 방지하기 위한 기술적 솔루션 개발에 더 많은 투자를 할 것으로 예상됩니다. 또한, 딥페이크 콘텐츠의 불법적인 제작 및 유포에 대한 법적 처벌이 강화될 수 있으며, 관련 기술 개발 및 사용에 대한 윤리적, 법적 가이드라인이 더욱 명확해질 것입니다. 이는 AI 산업 전반의 투명성과 책임성을 높이는 방향으로 나아갈 것입니다. 또한, 여성 및 아동 대상의 디지털 성범죄 예방을 위한 사회적, 기술적 노력이 더욱 중요해질 것입니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260717/p9#a260717p9)
- 원문 기사: [링크 열기](https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/)
---
출처: Techmeme ([Original Article](https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.