[The Verge] 메타, 인스타그램 AI 딥페이크 기능 긴급 종료: 사용자 반발에 백기
43
설명
메타(Meta)는 최근 생성형 AI 기술을 활용해 사용자가 공개 계정의 콘텐츠를 기반으로 이미지를 생성할 수 있는 기능을 인스타그램에 도입하려 했다. 이 기능은 사용자가 특정 공개 계정을 태그(@멘션)하면 해당 계정의 게시물을 AI 이미지 생성의 참조 자료로 활용할 수 있도록 설계되었다. 이는 메타의 새로운 Muse Image AI 모델을 소개하는 블로그 게시물에서 처음 발표되었으며, 창의적인 도구 제공과 사용자 경험 확대를 목표로 했다고 밝혔다. 그러나 이러한 발표 직후, 해당 기능이 계정 소유자의 명시적인 동의 없이도 콘텐츠가 AI 이미지 생성에 사용될 수 있다는 점에서 심각한 개인정보 침해 및 저작권 문제를 야기할 수 있다는 비판에 직면했다. 특히, 공개 계정이라 할지 할지라도 자신의 콘텐츠가 의도치 않은 방식으로 재가공되거나 악용될 수 있다는 우려가 커졌다. 이는 AI 기술 발전과 개인의 권리 보호 사이에서 기업들이 겪는 딜레마를 다시 한번 보여주는 사례다.
메타가 인스타그램에서 공개 계정 콘텐츠를 활용한 AI 이미지 생성 기능을 긴급 중단한 결정은 기술 기업들이 AI 윤리 및 사용자 동의 문제에 얼마나 취약한지를 단적으로 보여준다. 당초 메타는 이 기능을 통해 사용자들이 공개 계정의 게시물을 참조하여 새로운 이미지를 쉽게 만들 수 있도록 하여 창의성을 증진시키고자 했다. 그러나 이 기능의 핵심적인 문제점은 '공개 계정'이라는 이유만으로 콘텐츠 소유자의 명시적인 허락 없이 AI 모델 학습 및 이미지 생성에 사용될 수 있다는 점이었다. 이는 사용자들이 자신의 콘텐츠가 어떻게 활용될지 통제할 수 있는 권리를 침해할 소지가 다분하며, 딥페이크와 같은 악의적인 콘텐츠 생성으로 이어질 수 있다는 우려를 낳았다. 결국, 사용자들의 즉각적이고 강력한 반발에 직면한 메타는 출시 일주일도 채 되지 않아 해당 기능을 중단하는 초강수를 두었다. 이는 메타가 AI 기술 도입에 있어 사용자 프라이버시와 권리 보호에 대한 충분한 고려 없이 성급하게 기능을 출시했다는 비판을 피하기 어렵게 만들었다. 특히, 2024년 5월에 발표된 Muse Image AI 모델과 연계된 이 기능의 중단은 메타의 AI 전략에 대한 신뢰도에도 영향을 미칠 수 있다.
### 향후 전망
이번 사태로 인해 메타는 향후 AI 기능 개발 및 출시 과정에서 사용자 동의 절차와 개인정보 보호에 대한 더욱 엄격한 기준을 적용해야 할 것으로 보인다. 경쟁사들 역시 유사한 AI 기반 콘텐츠 생성 기능을 개발할 때, 사용자들의 프라이버시 침해 및 악용 가능성에 대한 우려를 더욱 심각하게 받아들일 것이다. 향후 메타는 사용자에게 명확한 통제권을 부여하고, 콘텐츠 사용에 대한 명시적인 동의를 얻는 방식으로 AI 기능을 재설계할 가능성이 높다. 또한, AI 생성 콘텐츠의 출처를 명확히 하고, 악의적인 사용을 방지하기 위한 기술적, 정책적 보완책 마련이 시급하다. 이번 결정은 AI 기술의 발전 속도와 사회적 합의, 그리고 규제 사이의 간극을 다시 한번 보여주며, 앞으로 유사한 기술이 등장할 때마다 더욱 신중한 접근이 요구될 것이다.
**시사점** — 메타의 인스타그램 AI 딥페이크 기능 중단은 기술 기업들이 사용자 동의와 프라이버시 보호에 대한 사회적 요구를 간과할 경우, 아무리 혁신적인 기술이라도 즉각적인 반발에 직면할 수 있음을 보여준다.
---
출처: The Verge ([Original Link](https://www.theverge.com/tech/964416/meta-instagram-ai-muse-image-deepfakes))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.