[The Verge] 'AI 찌꺼기' 필터링을 허하라: 플랫폼의 소극적 대응에 대한 날카로운 비판
6
설명
최근 몇 년간 생성형 AI 기술의 폭발적인 발전은 인터넷 콘텐츠 환경을 송두리째 바꿔놓았다. 텍스트, 이미지, 비디오, 오디오 등 모든 형태의 디지털 콘텐츠가 AI의 손을 거쳐 생산되고 있으며, 이는 소셜 미디어 피드를 빠르게 잠식하고 있다. 문제는 이러한 AI 생성 콘텐츠, 즉 'AI 슬롭(slop)'이라 불리는 저품질의, 때로는 기괴하고 무의미한 결과물들이 사용자들의 피로도를 극심하게 높이고 있다는 점이다.
유튜브, 인스타그램, 틱톡 등 주요 플랫폼들은 AI 생성 콘텐츠의 확산에 대응하기 위해 지난 한 해 동안 콘텐츠 인증 노력을 강화해왔다. AI로 만들어진 이미지, 비디오, 음악에 자동으로 라벨을 붙여 인간 창작물과 구분하려는 시도가 대표적이다. 이는 일견 긍정적인 움직임처럼 보이지만, 본질적인 문제 해결과는 거리가 멀다는 비판이 제기되고 있다. 사용자들이 원하는 것은 단순히 '이것은 AI가 만들었다'는 정보를 아는 것을 넘어, 원치 않는 AI 콘텐츠를 자신의 피드에서 적극적으로 배제할 수 있는 권리이기 때문이다.
현재 플랫폼들이 도입한 AI 생성 콘텐츠 라벨링은 사용자의 정보 접근성을 높이는 데는 기여할지언정, 실제 사용자 경험을 개선하는 데는 한계가 명확하다. 피드에 무작위로 나타나는 '새우 예수' 같은 기괴한 이미지나 맥락 없는 AI 생성 비디오는 라벨이 붙어있더라도 여전히 시각적, 정신적 피로감을 유발한다. 문제는 사용자가 원치 않는 콘텐츠를 단순히 '식별'하는 것을 넘어, 이를 '제거'할 수 있는 능동적인 통제권을 갈망한다는 점이다.
플랫폼들이 AI 콘텐츠 필터링 기능 도입에 소극적인 이유는 복합적이다. 첫째, AI 기술의 빠른 발전 속도와 콘텐츠의 다양성 때문에 정확하고 효율적인 필터링 시스템을 구축하는 것이 기술적으로 쉽지 않다. 둘째, AI 생성 콘텐츠가 플랫폼의 전체 콘텐츠 양과 사용자 참여도를 인위적으로 부풀리는 효과가 있을 수 있어, 비즈니스 모델적 관점에서 이를 완전히 배제하기를 꺼릴 수 있다. 셋째, AI가 인간 창작자의 생산성을 돕는 도구로 활용되는 경우까지 무분별하게 필터링될 수 있다는 우려도 존재한다.
그러나 이러한 소극적인 태도는 결국 사용자 이탈을 가속화할 수 있다. 스팸 메일 필터, 광고 차단 기능, 특정 주제나 계정을 숨기는 기능 등 사용자가 자신의 디지털 환경을 제어할 수 있는 도구는 이미 보편화되어 있다. AI 생성 콘텐츠 필터링은 이러한 사용자 중심의 접근 방식의 자연스러운 확장이다. 플랫폼은 사용자가 자신의 피드를 '큐레이션'할 권리를 인정하고, AI 슬롭으로부터 벗어날 수 있는 명확한 선택지를 제공해야 한다.
### 향후 전망
사용자들의 불만이 고조됨에 따라, 플랫폼들은 결국 AI 생성 콘텐츠 필터링 기능 도입에 대한 압박을 피할 수 없을 것이다. 초기에는 선택적 '옵트인(opt-in)' 방식으로 특정 유형의 AI 콘텐츠를 숨기거나, 아예 AI 생성 콘텐츠를 제외한 피드를 볼 수 있는 기능을 제공하는 방향으로 나아갈 수 있다. 만약 플랫폼들이 계속해서 미온적인 태도를 보인다면, 서드파티 브라우저 확장 프로그램이나 애플리케이션이 이 기능을 제공하며 시장의 틈새를 공략할 가능성도 배제할 수 없다.
장기적으로는 AI 콘텐츠의 양적 증가와 함께 그 품질에 대한 논의가 더욱 심화될 것이다. 단순히 'AI가 만들었다'는 라벨을 넘어, '이 AI 콘텐츠는 유용한가?'라는 질문이 중요해진다. 이는 궁극적으로 플랫폼의 콘텐츠 추천 알고리즘이 AI 생성 콘텐츠의 품질과 사용자 선호도를 더욱 정교하게 학습하고 반영하도록 진화해야 함을 의미한다. 규제 당국이 직접적으로 'AI 슬롭' 필터링을 강제할 가능성은 낮지만, AI 생성 콘텐츠가 사회적 문제(가짜뉴스, 혐오 표현 등)를 야기할 경우, 더 강력한 콘텐츠 관리 의무가 부과될 수 있다. 결국, 사용자의 피드 제어권을 존중하는 플랫폼만이 미래 경쟁에서 우위를 점할 수 있을 것이다.
**시사점** — AI 콘텐츠 홍수 속에서 플랫폼은 사용자에게 '선택할 권리'를 부여하고, 피드 제어권을 돌려줘야 한다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/942909/let-us-filter-ai-slop-google-youtube-meta-instagram-tiktok))
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.