[The Verge] OpenAI, EU 사용자 대상 ChatGPT와 Codex에 텍스트 워터마킹 도입
2
설명
인공지능(AI) 생성 콘텐츠의 진위 여부를 판별하려는 움직임이 전 세계적으로 거세지고 있다. 특히 유럽연합(EU)은 AI 규제 법안(AI Act)을 통해 AI 생성 콘텐츠에 대한 투명성 확보를 강조하고 있으며, 이는 AI 개발 기업들에게 직접적인 영향을 미치고 있다. OpenAI는 이러한 규제 환경 속에서 자사 모델인 ChatGPT와 Codex에 텍스트 워터마킹 기술을 도입하며 EU 시장의 요구에 부응하려는 움직임을 보였다. 이는 구글 딥마인드의 SynthID와 같은 기존 텍스트 워터마킹 기술과의 비교 테스트에서 우수한 성능을 보였다고 OpenAI는 주장한다. 앤트로픽 역시 2023년 8월 유사한 워터마킹 기술을 발표하며 EU AI Act 준수를 위한 행보를 이어가고 있다. 그러나 이러한 기술 도입에 대한 사용자들의 반응은 엇갈리고 있다.
OpenAI가 도입한 텍스트 워터마킹 기술인 'textGrain'은 텍스트 출력에 보이지 않는 기계 판독 가능한 표식을 삽입하는 방식이다. 이 기술은 우선 EU 지역 사용자들에게만 적용되며, 이는 EU AI Act의 요구 사항을 충족하기 위한 전략으로 풀이된다. OpenAI는 textGrain이 텍스트 생성물의 품질에 미치는 영향을 최소화했다고 강조하며, 워터마킹된 텍스트와 그렇지 않은 텍스트 간의 AI 벤치마크 성능 점수가 유사하다는 데이터를 제시했다. 이는 워터마킹 기술이 AI 모델의 핵심 기능이나 사용자 경험을 저해하지 않으면서도 콘텐츠 출처를 추적할 수 있는 가능성을 보여준다. 하지만 textGrain이 '완벽한' 해결책은 아니며, 100%의 정확성을 보장하지는 않는다는 점도 명시하고 있다. 이는 AI 생성 텍스트의 오용 가능성을 완전히 차단하기에는 한계가 있음을 시사한다.
### 향후 전망
OpenAI의 텍스트 워터마킹 도입은 EU AI Act 시행에 따른 AI 기업들의 규제 준수 노력을 보여주는 사례다. 향후 다른 국가 및 지역에서도 유사한 규제가 도입될 가능성이 있으며, 이는 전 세계 AI 서비스에 영향을 미칠 수 있다. OpenAI는 textGrain 기술을 지속적으로 개선하고 적용 범위를 확대할 것으로 예상된다. 경쟁사들 역시 유사한 기술 개발 및 도입을 가속화할 것이며, 이는 AI 생성 콘텐츠 탐지 기술 시장의 성장을 견인할 것이다. 다만, 워터마킹 기술의 우회 가능성, 프라이버시 문제, 그리고 기술적 한계에 대한 논의는 계속될 것으로 보인다. 궁극적으로는 기술적 해결책과 함께 사회적 합의 및 교육이 병행되어야 AI 생성 콘텐츠의 윤리적 사용을 정착시킬 수 있을 것이다.
**시사점** — OpenAI의 텍스트 워터마킹 도입은 EU AI Act 준수를 위한 첫걸음이며, AI 생성 콘텐츠 투명성 확보 경쟁의 서막을 알린다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/1004880/openai-chatgpt-text-watermarks-eu-ai-act))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.