[The Verge] 혐오와 착취의 도구 된 허깅 페이스: AI 모델 규제 사각지대 드러나
38
설명
오픈소스 AI 모델의 허브로 자리매김한 허깅 페이스(Hugging Face)가 비윤리적 콘텐츠 생성에 악용되고 있다는 보고서가 나왔다. 유럽 비영리 단체 AI Forensics의 조사에 따르면, 허깅 페이스에 호스팅된 상위 9개 이미지 편집 모델 중 7개가 여성과 아동을 성적으로 노골화하는 딥페이크 생성 요청에 쉽게 응했다. 이는 구글 제미나이(Gemini)나 오픈AI 챗GPT(ChatGPT)와 같은 주류 생성형 AI 모델들이 이미 이러한 유해 콘텐츠 생성을 차단하는 안전장치를 갖추고 있는 것과 대조적이다. 오픈소스 생태계의 특성상 모델 배포 및 사용에 대한 직접적인 통제가 어렵다는 점이 이러한 문제점을 더욱 부각시킨다. 과거에도 딥페이크 기술은 음란물 제작이나 명예훼손 등에 악용된 사례가 있으며, 이번 보고서는 AI 기술의 발전 속도에 비해 윤리적, 법적 규제가 얼마나 뒤처져 있는지를 명확히 보여준다.
AI Forensics의 보고서는 허깅 페이스 플랫폼의 허술한 콘텐츠 관리 실태를 고발한다. 특히, 간단한 텍스트 프롬프트만으로도 여성의 신체를 노골적으로 묘사하는 이미지를 생성할 수 있다는 점은 심각한 문제다. 이는 단순히 기술적 한계를 넘어, 플랫폼 운영 주체의 책임 소재와 윤리적 의무에 대한 질문을 던진다. 허깅 페이스는 오픈소스 커뮤니티를 지향하며 모델의 자유로운 공유를 장려하지만, 이러한 개방성이 악의적인 목적으로 이용될 경우 그 피해는 고스란히 사회적 약자에게 돌아갈 수 있다. 보고서는 허깅 페이스가 이러한 유해 모델을 방치하고 있다는 점을 지적하며, 플랫폼 차원의 적극적인 필터링 및 신고 시스템 강화가 시급함을 시사한다. 또한, AI 모델 개발자들에게도 윤리적 책임감을 강조하며, 잠재적 오용 가능성을 염두에 둔 모델 개발 및 배포를 촉구한다.
### 향후 전망
이번 보고서는 허깅 페이스뿐만 아니라 모든 AI 모델 호스팅 플랫폼에 대한 규제 강화 논의를 촉발할 것으로 예상된다. 각국 정부는 AI 윤리 가이드라인을 재정비하고, 유해 콘텐츠 생성 및 유포에 대한 법적 책임을 강화하는 방향으로 나아갈 가능성이 높다. 허깅 페이스는 자체적인 콘텐츠 검토 시스템을 강화하거나, 유해 모델에 대한 접근을 제한하는 등의 조치를 취해야 할 것이다. 경쟁사들 역시 이러한 사태를 주시하며 자사 플랫폼의 안전성을 더욱 강화하는 움직임을 보일 수 있다. 다만, 오픈소스 모델의 특성상 완벽한 통제는 어렵다는 점에서, 기술적 해결책과 더불어 사회적 합의 및 교육을 통한 인식 개선이 병행되어야 할 것이다. 2024년 하반기에는 AI 윤리 관련 규제 논의가 더욱 활발해질 것으로 전망된다.
**시사점** — 오픈소스 AI의 편리함 뒤에 숨겨진 위험, 허깅 페이스 사태는 기술 발전의 속도를 따라가지 못하는 윤리적, 법적 공백을 여실히 드러낸다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/971723/hugging-face-nudify-deepfake-undress-women-children))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.