[The Verge] 인스타그램, AI 생성 인물 계정 'AI 생성 프로필' 라벨 의무화로 투명성 강화
66
설명
인공지능(AI) 기술의 발전은 콘텐츠 제작 방식을 근본적으로 바꾸고 있으며, 소셜 미디어 플랫폼은 이러한 변화에 발맞춰 새로운 과제에 직면하고 있습니다. 특히, 실제 인간처럼 보이는 AI 생성 인물 계정의 증가는 사용자들의 혼란과 불신을 야기하며 플랫폼의 신뢰성에 대한 의문을 제기해왔습니다. 과거 'AI 크리에이터'와 같은 라벨이 존재했지만, 이는 AI가 생성한 콘텐츠를 포괄하는 넓은 의미로 사용되어 AI 생성 인물과 실제 인간을 구분하는 데 명확성이 부족했습니다. 2024년 현재, 이러한 모호성은 더욱 심화되었고, 사용자들은 자신이 접하는 인물이 실제인지 가상인지 명확히 알 수 있기를 요구하고 있습니다.
이러한 배경 속에서 인스타그램은 2024년 2월, AI 생성 인물 계정에 대한 새로운 정책을 발표하며 이러한 요구에 응답했습니다. 과거 'AI 크리에이터' 라벨을 'AI 생성 프로필(AI-generated profile)'로 변경하고, AI가 생성한 인물을 특징으로 하는 프로필에 이 라벨을 의무적으로 부착하도록 하는 것입니다. 이는 단순히 콘텐츠가 AI로 만들어졌다는 것을 넘어, 프로필 속 인물 자체가 AI에 의해 생성되었음을 명확히 하려는 시도입니다. 이는 2023년 11월, 가상 인플루언서 'Aitana Lopez'와 같은 계정들이 실제 인간처럼 활동하며 논란을 일으킨 이후, 플랫폼의 책임 있는 운영에 대한 압박이 커진 결과로 해석됩니다.
인스타그램의 이번 조치는 AI 생성 인물 계정에 대한 명확한 식별 체계를 구축함으로써 사용자 경험의 투명성을 높이는 데 초점을 맞추고 있습니다. 'AI 생성 프로필'이라는 새로운 라벨은 사용자가 프로필을 볼 때 해당 인물이 실제 인간이 아닌 AI에 의해 생성된 존재임을 즉각적으로 인지하게 합니다. 이는 사용자가 콘텐츠를 소비하는 방식에 대한 중요한 정보를 제공하며, AI 생성 인물과의 상호작용에서 발생할 수 있는 오해를 줄이는 데 기여할 것입니다.
인스타그램은 또한 자체적으로 라벨을 부착하지 않는 계정을 적극적으로 찾아내고 제재를 가할 방침입니다. 이는 자발적인 신고나 라벨링에만 의존하는 기존 방식의 한계를 극복하고, AI 생성 인물 계정의 무분별한 확산을 막기 위한 적극적인 조치입니다. 이러한 제재는 계정 노출 제한 등 다양한 형태로 이루어질 수 있으며, 이는 AI 생성 인물 계정 운영자들에게 상당한 부담으로 작용할 것입니다. 특히, 'Aitana Lopez'와 같이 수백만 명의 팔로워를 보유한 계정들이 이러한 정책의 직접적인 영향을 받을 것으로 예상됩니다. 인스타그램의 이러한 움직임은 메타(Meta)가 AI 기술을 활용하는 방식에 대한 전반적인 접근 방식을 보여주는 사례이며, 플랫폼 내에서 AI의 역할과 투명성에 대한 중요한 기준을 제시하고 있습니다.
### 향후 전망
인스타그램의 이번 정책 변화는 유사한 고민을 안고 있는 다른 소셜 미디어 플랫폼들에게도 영향을 미칠 가능성이 높습니다. 특히, 틱톡(TikTok)이나 유튜브(YouTube)와 같이 AI 생성 콘텐츠가 활발하게 유통되는 플랫폼들은 인스타그램의 사례를 참고하여 자체적인 투명성 강화 방안을 모색할 수 있습니다. 향후 AI 생성 인물 계정에 대한 규제는 더욱 강화될 수 있으며, 이는 AI 기술 발전과 함께 지속적으로 진화할 것입니다. 또한, AI 생성 인물 계정의 수익화 모델이나 광고 집행 방식에 대한 논의도 활발해질 것으로 예상됩니다. 사용자들이 AI 생성 인물에 대한 정보를 명확히 인지하게 됨에 따라, 이러한 계정들의 영향력이나 광고 효과에 대한 평가도 달라질 수 있습니다. 다만, AI 기술의 빠른 발전 속도를 고려할 때, 인스타그램의 현재 정책이 미래의 새로운 AI 생성 인물 유형이나 기술에 얼마나 효과적으로 대응할 수 있을지는 지켜볼 필요가 있습니다.
**시사점** — 인스타그램이 AI 생성 인물 계정에 'AI 생성 프로필' 라벨을 의무화하며 투명성 강화에 나선 것은, AI 시대의 소셜 미디어 신뢰성 확보를 위한 중요한 첫걸음이다.
---
출처: The Verge ([Original Link](https://www.theverge.com/tech/986593/instagram-addresses-fake-ai-profile-slop))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.