[Hacker News 요약] Meta, AI 생성 아동 성적 학대 이미지 포함 광고 게재 사실 드러나
0
설명
Meta는 페이스북, 인스타그램, 메신저, 스레드 등 자사 플랫폼에 AI로 생성된 아동 성적 학대 이미지(CSAM)를 포함한 유료 광고를 게재한 사실이 드러났습니다. 2023년 11월부터 2024년 8월까지 게시된 50개 이상의 광고가 발견되었으며, 일부는 최근까지도 노출되었습니다.
이러한 광고들은 미국, 영국 및 유럽 12개국 이상을 대상으로 했으며, 일부는 수천 개의 계정에 도달했습니다.
Tech Transparency Project(TTP)의 연구원들은 Meta의 광고 라이브러리에서 이러한 문제 광고들을 발견했으며, 일부는 'nudify' 또는 'undressing' 앱으로 연결되었습니다.
### 배경 설명
생성형 AI 기술의 발전은 긍정적인 측면과 함께 심각한 윤리적, 사회적 문제를 야기하고 있습니다. 특히, AI를 이용한 아동 성적 학대 이미지(CSAM) 생성 및 유포는 전 세계적으로 심각한 범죄로 간주되며, 이를 탐지하고 차단하는 기술적, 정책적 노력이 중요해지고 있습니다. Meta와 같은 대형 소셜 미디어 플랫폼은 이러한 유해 콘텐츠의 확산을 막아야 할 책임이 있으며, 광고 시스템의 투명성과 안전성 확보는 플랫폼의 신뢰도와 직결됩니다.
이번 사건은 Meta의 광고 검토 및 승인 시스템에 대한 근본적인 의문을 제기합니다. Meta는 AI 기술을 활용하여 유해 콘텐츠를 탐지하고 차단하겠다고 밝혔지만, 이번에 발견된 광고들은 이러한 시스템을 우회하거나 통과한 것으로 보입니다. 특히, 일부 광고는 Meta가 이전에 정책 위반으로 삭제했던 것과 동일한 내용의 광고였음에도 불구하고 다시 게시되었다는 점은 Meta의 콘텐츠 관리 시스템의 허점을 시사합니다. 이는 단순히 기술적인 문제를 넘어, Meta가 아동 보호를 얼마나 심각하게 받아들이고 있는지에 대한 질문으로 이어집니다.
### 발견된 유해 광고의 실태
Tech Transparency Project(TTP)의 연구원들은 2023년 11월부터 2024년 8월 사이에 Meta의 광고 라이브러리에서 AI로 생성된 아동 성적 학대 이미지(CSAM)와 성적으로 암시적인 문구를 포함한 50개 이상의 광고를 발견했습니다. 이 광고들은 페이스북, 인스타그램, 메신저, 스레드 등 Meta의 주요 플랫폼에 걸쳐 게시되었으며, 일부는 최근까지도 노출되었습니다. 연구원들은 특히 'nudify' 또는 'undressing' 앱으로 연결되는 광고들이 많았다고 지적했습니다. 한 비디오 광고는 아이가 바닥에 앉아 있는 썸네일 이미지에 'Generation AI로 깊은 판타지를 실현하세요'라는 문구를 사용했으며, 클릭 시 성행위를 묘사하는 성인 영상이 재생되고 아이의 얼굴이 합성되는 방식으로 작동했습니다. 또 다른 광고는 어린 소녀가 다리를 벌리고 누워 있는 이미지에 '더 보여줄 수 있어요'라는 문구를 포함했습니다. 이러한 광고들은 주로 남성을 대상으로 했으며, 일부는 유럽의 프랑스, 독일, 아일랜드, 이탈리아, 네덜란드, 스페인, 스웨덴, 영국 등 12개국 이상에서 2,563개 계정에 도달한 것으로 파악되었습니다. Meta의 광고 라이브러리 데이터는 미국 및 일부 국가의 광고 성과에 대한 세부 정보를 포함하지 않아 실제 도달 범위는 더 높을 수 있습니다.
### Meta의 대응 및 AI 기술의 역할
Meta는 WIRED의 문의 후 해당 광고들을 삭제했으며, 아동 성적 착취는 끔찍한 일이며 플랫폼에서 이를 제거하기 위해 공격적으로 노력하고 있다고 밝혔습니다. Meta는 이러한 광고의 대부분이 도달 범위가 최소화되었고, WIRED가 공유하기 전에 많은 광고가 비활성화되었다고 주장했습니다. 또한, Meta는 최근 출시된 새로운 AI 기술이 업로드 시점에 위반 광고를 더 잘 탐지하고 차단하는 데 도움이 되며, 이러한 시스템을 지속적으로 개선하고 있다고 덧붙였습니다. 작년에 3,600만 건 이상의 아동 성적 착취 콘텐츠를 제거하고 'nudify' 앱 개발자를 상대로 법적 조치를 취하는 등 아동 학대에 맞서 끊임없이 싸울 것이라고 강조했습니다. 그러나 TTP 연구원들은 Meta의 새로운 AI 기술이 출시된 이후에도 일부 유해 광고가 통과되었음을 발견했으며, 심지어 WIRED가 Meta에 문의한 후에도 새로운 유해 광고가 게시되고 노출되는 사례가 있었다고 보고했습니다. 이는 Meta의 콘텐츠 관리 시스템이 여전히 허점을 가지고 있음을 시사합니다.
### AI 생성 유해 콘텐츠의 확산과 플랫폼의 책임
생성형 AI 기술의 발전은 'nudify' 또는 'undressing'과 같은 AI 기반의 유해 서비스의 확산을 가속화했습니다. 이러한 서비스는 사용자가 사진을 업로드하여 사람들을 성적인 상황에 합성하는 기능을 제공하며, 이는 불법적인 아동 성적 학대 자료(CSAM) 생성에 악용될 수 있습니다. Apple은 이러한 정책 위반 앱을 앱 스토어에서 제거했으며, Meta 역시 'nudify' 앱 개발자를 상대로 법적 조치를 취하는 등 대응에 나서고 있습니다. 그러나 Alexios Mantzarlis와 같은 전문가들은 이러한 유해 콘텐츠를 생성하는 행위자들이 새로운 광고 계정과 도메인을 생성하며 지속적으로 기술을 발전시키고 있다고 지적합니다. 그는 이러한 이미지 기반 성적 학대 산업이 플랫폼의 소극적인 집행으로 인해 단순한 신기한 것을 넘어 온라인 생태계의 영구적인 고정물이 되었다고 비판했습니다. 또한, Meta의 광고 라이브러리 자체에는 이미 삭제된 광고에 대해 정책 위반을 신고할 방법이 없다는 점도 문제로 지적되었습니다. 이러한 상황은 Meta와 같은 플랫폼이 유해 콘텐츠 확산을 막기 위해 더욱 강력하고 적극적인 조치를 취해야 함을 시사합니다.
### 가치와 인사이트
이번 사건은 생성형 AI 기술의 발전이 가져오는 어두운 그림자를 명확히 보여줍니다. Meta와 같은 거대 기술 기업이 AI를 활용하여 콘텐츠를 관리하고 광고를 검토함에도 불구하고, 아동 성적 학대 이미지와 같은 심각한 유해 콘텐츠가 플랫폼을 통해 유포될 수 있다는 사실은 충격적입니다. 이는 단순히 기술적인 탐지 시스템의 한계를 넘어, 플랫폼의 콘텐츠 정책, 집행의 실효성, 그리고 아동 보호에 대한 기업의 근본적인 의지와 책임감을 재고하게 만듭니다. 특히, 과거에 삭제되었던 동일한 내용의 광고가 다시 게시되는 사례는 Meta의 콘텐츠 관리 시스템에 대한 신뢰도를 떨어뜨리며, 플랫폼이 유해 콘텐츠 확산을 얼마나 심각하게 받아들이고 있는지에 대한 의문을 제기합니다. 또한, AI 기반의 'nudify' 앱과 같은 서비스의 확산은 이러한 유해 콘텐츠가 더욱 정교하고 접근하기 쉬워지고 있음을 시사하며, 이에 대한 기술적, 법적, 사회적 대응의 시급성을 강조합니다.
### 기술·메타
- Meta (Facebook, Instagram, Messenger, Threads)
- Tech Transparency Project (TTP)
- National Center for Missing and Exploited Children’s CyberTipline
- Apple App Store
- MaskAI (App)
- Meet Social (Chinese firm)
- Generative AI
- AI nudification/undressing services
### 향후 전망
Meta는 AI 기술을 활용하여 유해 광고를 탐지하고 차단하는 시스템을 지속적으로 개선하겠다고 밝혔지만, 이번 사건은 이러한 노력이 아직 충분하지 않음을 보여줍니다. 생성형 AI 기술은 계속해서 발전할 것이며, 유해 콘텐츠를 생성하고 유포하는 행위자들도 더욱 정교한 방법을 개발할 것입니다. 따라서 Meta는 AI 탐지 기술 강화뿐만 아니라, 광고 검토 프로세스의 투명성 증대, 사용자 신고 시스템 개선, 그리고 유해 콘텐츠 제작 및 유포자에 대한 강력한 법적 조치를 병행해야 할 것입니다. 또한, 다른 기술 기업들과의 협력을 통해 유해 콘텐츠 확산 방지를 위한 업계 전반의 노력을 강화해야 합니다. 특히, AI 생성 유해 콘텐츠에 대한 명확한 법적 규제와 국제적인 공조가 더욱 중요해질 것입니다. Meta의 향후 행보는 아동 보호와 온라인 안전에 대한 기술 기업의 책임을 가늠하는 중요한 척도가 될 것입니다.
📝 원문 및 참고
- Source: Hacker News
- 토론(HN): [news.ycombinator.com](https://news.ycombinator.com/item?id=49187977)
- 원문: [링크 열기](https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/)
---
출처: Hacker News · [원문 링크](https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.