[The Verge] 서브스택, AI 글쓰기 판별 도구 도입으로 '가짜 블로그' 색출 나선다
38
설명
생성형 AI 기술의 급속한 발전은 콘텐츠 제작 방식에 혁신을 가져왔지만, 동시에 진위 여부에 대한 논란도 증폭시키고 있다. 특히 블로그 플랫폼에서는 AI가 생성한 텍스트가 인간의 창작물을 대체하면서 콘텐츠의 신뢰성과 독창성이 훼손될 수 있다는 우려가 커지고 있다. 이러한 배경 속에서 서브스택(Substack)과 같은 독립적인 창작자 중심 플랫폼은 자체적인 콘텐츠 품질 관리 및 투명성 확보를 위한 방안 마련에 고심해왔다. 과거에도 표절이나 저작권 침해 문제에 대한 논의가 있었지만, AI의 등장으로 인해 문제는 더욱 복잡하고 광범위해졌다. 이제는 단순히 복제가 아닌, '누가' 썼는지에 대한 근본적인 질문이 제기되고 있는 상황이다.
서브스택이 2024년 5월 7일(화요일) 공개한 AI 탐지 도구는 이러한 시대적 요구에 부응하는 움직임이다. 이 도구는 사용자가 읽고 있는 게시물, 노트, 답글, 댓글 등 플랫폼 내 모든 텍스트 콘텐츠를 스캔하여 AI 생성 가능성을 추정한다. 핵심은 AI 탐지 전문 기업인 팡그램(Pangram)과의 협력을 통해 기술적 기반을 마련했다는 점이다. 현재 웹과 iOS 앱에 우선 적용되었으며, 안드로이드 버전 출시도 예정되어 있다. 100단어 이상의 콘텐츠에 대해 'AI 텍스트 스캔' 옵션을 제공함으로써, 독자들은 콘텐츠의 출처에 대한 추가적인 정보를 얻을 수 있게 되었다. 이는 서브스택이 콘텐츠의 진정성을 유지하고, AI로 인해 발생할 수 있는 정보의 혼란을 최소화하려는 의지를 보여준다. 창작자 입장에서는 자신의 콘텐츠가 AI에 의해 무단으로 도용되거나, 반대로 AI가 생성한 콘텐츠와 혼동되는 상황을 방지하는 데 도움을 받을 수 있다. 또한, 플랫폼 전체의 신뢰도를 높여 장기적으로는 충성도 높은 독자층을 유지하는 데 기여할 것으로 보인다.
### 향후 전망
서브스택의 AI 탐지 도구 도입은 콘텐츠 플랫폼 업계 전반에 걸쳐 유사한 움직임을 촉발할 가능성이 높다. 특히 텍스트 기반의 콘텐츠가 중요한 다른 뉴스 매체나 소셜 미디어 플랫폼들도 자체적인 AI 탐지 솔루션 도입을 검토하게 될 것이다. 다만, AI 탐지 기술 자체의 정확성과 오탐(false positive) 가능성은 여전히 해결해야 할 과제다. AI 모델이 지속적으로 발전함에 따라 탐지 기술 또한 끊임없이 업데이트되어야 할 것이다. 또한, 이러한 도구가 창작자의 자유로운 표현을 위축시키거나, 오히려 AI를 우회하는 새로운 방식의 콘텐츠 생성을 부추길 수도 있다는 점도 고려해야 한다. 서브스택은 향후 이 도구의 정확도를 높이고, 사용자 피드백을 반영하여 기능을 개선해 나갈 것으로 예상된다. 궁극적으로는 AI 시대에 걸맞은 새로운 콘텐츠 윤리 기준을 정립하는 데 기여할 수 있을지 주목된다.
**시사점** — 서브스택의 AI 탐지 도구 도입은 AI 시대 콘텐츠의 진정성 확보를 위한 플랫폼의 책임 있는 행보를 보여준다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/968855/substack-pangram-ai-detecting-tool))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.