[The Verge] 앤트로픽, 클로드 텍스트에 '보이지 않는 워터마크' 심는 법 공개
3
설명
유럽연합(EU)의 AI 법(AI Act)이 본격 시행되면서, 생성형 AI가 만든 콘텐츠의 투명성 확보가 초미의 관심사로 떠올랐습니다. 텍스트, 이미지, 오디오, 비디오 등 합성 콘텐츠에 기계가 읽을 수 있는 표시를 의무화하는 이 법은 AI 기술의 책임 있는 개발과 배포를 위한 중요한 발걸음으로 평가받고 있습니다. 특히 텍스트 워터마킹은 AI가 생성한 정보의 출처를 명확히 하고, 허위 정보 확산을 방지하는 데 핵심적인 역할을 할 것으로 기대됩니다. 과거에도 딥페이크 등 합성 미디어의 오용 사례가 빈번하게 발생하면서, 이에 대한 기술적 대응의 필요성이 꾸준히 제기되어 왔습니다.
앤트로픽은 이러한 규제 환경에 발맞춰 자사의 대규모 언어 모델(LLM)인 클로드(Claude)에서 생성된 텍스트에 보이지 않는 워터마크를 삽입하는 방안을 구체화했습니다. 이는 단순히 규제 준수를 넘어, AI 기술의 신뢰성을 높이고자 하는 업계의 노력을 보여주는 사례입니다. 2024년 5월 10일(금) 발표된 내용은 이러한 노력의 일환으로, 앤트로픽이 어떤 기술적 접근 방식을 택했는지 명확히 보여줍니다.
앤트로픽이 클로드 텍스트에 적용할 워터마킹 기술은 구글 딥마인드(Google DeepMind)가 개발한 오픈소스 기술인 SynthID-Text의 변형입니다. 이 기술의 핵심은 텍스트의 단어 선택 확률에 미묘한 패턴을 부여하여, 인간의 눈으로는 감지하기 어렵지만 기계는 식별할 수 있는 '보이지 않는 워터마크'를 생성하는 것입니다. 즉, 텍스트의 의미나 가독성에 영향을 주지 않으면서도, 해당 텍스트가 AI에 의해 생성되었음을 증명할 수 있는 디지털 서명을 심는 방식입니다. 이는 텍스트의 자연스러움을 유지하면서도 출처를 추적할 수 있다는 점에서 기존의 워터마킹 방식보다 진일보한 접근으로 평가됩니다.
이번 발표에는 텍스트 워터마킹뿐만 아니라, 클로드로 처리된 이미지에 대한 C2PA(Coalition for Content Provenance and Authenticity) 지원 강화 계획도 포함되었습니다. C2PA는 콘텐츠의 출처와 변경 이력을 추적하는 표준으로, 이미지 분야에서의 투명성을 높이는 데 기여할 것입니다. 이러한 조치들은 EU AI 법의 요구사항을 충족하기 위한 앤트로픽의 적극적인 움직임을 보여줍니다. 특히 텍스트 워터마킹은 챗봇이나 콘텐츠 생성 도구의 확산으로 인해 텍스트 기반 AI의 오남용 가능성이 커진 현 상황에서, AI 생성 콘텐츠의 신뢰성을 확보하는 데 중요한 기술적 진전이라 할 수 있습니다.
### 향후 전망
앤트로픽의 SynthID-Text 기반 워터마킹 기술 도입은 EU AI 법 시행에 따른 AI 기업들의 기술적 대응 로드맵을 보여주는 선례가 될 것입니다. 앞으로 다른 LLM 개발사들도 유사한 투명성 강화 기술을 도입할 가능성이 높으며, 이는 AI 생성 콘텐츠 시장 전반의 투명성 수준을 향상시킬 것으로 예상됩니다. 다만, 워터마크의 탐지율, 우회 가능성, 그리고 워터마킹 기술 자체의 에너지 소비 효율성 등은 지속적인 연구와 개선이 필요한 과제입니다. 또한, 워터마크가 적용된 텍스트를 탐지하는 도구의 개발 및 보급도 함께 이루어져야 실질적인 효과를 발휘할 수 있을 것입니다. EU AI 법은 2024년 6월부터 단계적으로 적용될 예정이며, 앤트로픽의 이번 발표는 이러한 규제 환경 변화에 대한 AI 업계의 발 빠른 대응을 시사합니다.
**시사점** — 앤트로픽이 클로드에 도입하는 SynthID-Text 기반 보이지 않는 워터마크는 EU AI 법 준수를 넘어 AI 생성 콘텐츠의 신뢰성 확보를 위한 중요한 기술적 진전입니다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/980869/anthropic-claude-watermarks-synthid-text-system))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.