[The Verge] 틱톡, AI 생성 영상 속 '내 얼굴' 탐지 도구 테스트 시작
2
설명
인공지능(AI) 기술의 발전은 콘텐츠 제작 방식을 근본적으로 변화시키고 있으며, 특히 딥페이크와 같은 기술은 개인의 초상권을 침해하거나 허위 정보 확산에 악용될 소지가 있다는 우려를 낳고 있다. 이러한 배경 속에서 플랫폼 기업들은 AI 생성 콘텐츠와 실제 콘텐츠를 구분하고, 사용자의 권리를 보호하기 위한 기술적, 정책적 대응을 모색하고 있다. 틱톡의 이번 움직임은 이러한 업계 전반의 흐름과 맥을 같이 한다. 이미 유튜브는 유사한 도구를 개발하여 성인 사용자들에게 제공하기 시작했으며, 이는 AI 생성 콘텐츠에 대한 플랫폼의 책임 강화 추세를 보여준다. 틱톡이 이 도구를 테스트하는 것은 단순히 기술적 진보를 넘어, 창작자들의 저작권 및 초상권 보호라는 시급한 과제에 대한 실질적인 해결책을 제시하려는 시도로 해석된다.
틱톡은 최근 일부 미국 창작자들을 대상으로 AI 생성 영상 속 자신의 모습을 탐지하는 '옵트인(opt-in)' 도구 테스트를 시작했다. 이 도구는 AI가 생성한 영상에서 사용자의 얼굴과 유사한 이미지를 식별하고, 창작자가 이를 신고할 수 있도록 지원한다. 틱톡 미국 대변인 Zachary Kizer에 따르면, 이 도구를 사용하려는 창작자는 먼저 Jumio라는 회사를 통해 신원 확인 절차를 거쳐야 한다. 이 과정에는 실시간 셀피 스캔과 신분증 확인이 포함된다. 틱톡은 신분증 문서를 보관하지 않으며, 얼굴 정보 또한 특정 목적 외에는 사용하지 않는다고 강조했다. 이는 사용자의 개인 정보 보호와 도구의 신뢰성을 동시에 확보하려는 노력으로 보인다. 이 도구의 핵심은 AI가 생성한 '가짜' 이미지와 실제 개인의 '진짜' 모습을 구분하는 기술력에 달려 있다. 딥페이크 기술이 정교해짐에 따라, 이러한 탐지 도구의 정확성과 효율성이 향후 틱톡 플랫폼 내에서 창작자들의 권리를 얼마나 효과적으로 보호할 수 있을지를 결정짓는 중요한 요소가 될 것이다.
### 향후 전망
틱톡의 AI 유사성 탐지 도구 테스트는 향후 AI 생성 콘텐츠 규제 및 관리 방안에 대한 중요한 선례가 될 수 있다. 이 도구가 성공적으로 안착한다면, 다른 소셜 미디어 플랫폼들도 유사한 기능을 도입하거나 강화할 가능성이 높다. 또한, 이 도구의 확산은 AI 생성 콘텐츠에 대한 법적, 윤리적 논의를 더욱 촉발할 것이다. 창작자들은 자신의 콘텐츠가 AI에 의해 무단으로 사용되는 것을 방지할 수 있는 강력한 수단을 얻게 되지만, 동시에 신원 확인 절차의 번거로움과 개인 정보 유출에 대한 우려도 제기될 수 있다. 틱톡은 이 도구를 전 세계적으로 확대 적용하기 전에, 다양한 국가의 규제 환경과 사용자들의 피드백을 면밀히 검토해야 할 것이다. 궁극적으로 이 도구는 AI 기술의 발전과 함께 변화하는 디지털 환경에서 개인의 권리를 보호하는 데 기여할 수 있을지 주목된다.
**시사점** — 틱톡이 AI 생성 영상 속 자신의 얼굴을 탐지하고 신고할 수 있는 도구를 테스트하며, 창작자 권리 보호에 한 발 더 다가섰다.
---
출처: The Verge ([Original Link](https://www.theverge.com/tech/967486/tiktok-ai-likeness-detection-tool))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.