[The Verge] 교황의 AI 경고 회칙, 정작 AI가 작성했을 가능성 제기되다
21
설명
생성형 인공지능(AI) 기술은 지난 몇 년간 콘텐츠 생산의 패러다임을 송두리째 바꿔놓았다. 텍스트, 이미지, 심지어 오디오까지 AI가 생성하는 시대에, '진정성'과 '원본성'에 대한 의문은 끊이지 않고 있다. 특히, AI가 작성한 텍스트를 탐지하려는 시도와 이를 둘러싼 논쟁은 기술 발전과 함께 더욱 심화되고 있다.
이러한 배경 속에서, 인류의 도덕적, 윤리적 나침반 역할을 하는 종교계, 그중에서도 가장 보수적이고 권위 있는 기관 중 하나인 교황청이 AI의 위험성을 경고하는 메시지를 내놓는다는 사실 자체가 큰 주목을 받았다. 교황의 회칙은 전 세계 가톨릭 신자뿐 아니라 인류 전체에 대한 중요한 메시지로 받아들여지기 때문이다. 그런데 만약 이 중요한 메시지가 아이러니하게도 AI의 도움을 받아 작성되었다면? 이는 단순한 기술적 논란을 넘어, 진실성과 권위의 본질에 대한 근본적인 질문을 던진다.
문제의 발단은 포럼 레스롱(LessWrong)에 게시된 린치 장(Linch Zhang)의 분석에서 시작되었다. 그는 인기 있는 AI 탐지기 '팽그램(Pangram)'을 이용해 교황 레오 14세의 최신 회칙 '마그니피카 후마니타스(Magnifica Humanitas)'의 일부 단락이 40%에서 100%까지 AI에 의해 작성되었을 가능성을 제기했다. 특히, 이 문서는 AI 생성 텍스트에서 흔히 발견되는 특정 언어적 특성을 포함하고 있다는 점이 지적되었다. 예를 들어, 이전 회칙들에 비해 'genuinely(진정으로)'와 같은 단어의 사용 빈도가 현저히 높다는 것인데, 이는 앤트로픽(Anthropic)의 클로드(Claude)와 같은 특정 AI 모델에서 자주 나타나는 특징으로 알려져 있다. 또 다른 분석가는 문서의 첫 장을 팽그램으로 돌려본 결과 62%가 AI에 의해 작성되었을 가능성을 발견했다고 덧붙였다.
이러한 분석 결과는 교황청의 메시지 전달 방식과 그 신뢰성에 대한 중대한 의문을 제기한다. AI의 위험성을 경고하는 내용의 글이 정작 AI의 도움을 받아 작성되었다는 것은 메시지의 진정성을 훼손할 수 있는 역설적인 상황이다. 물론, AI 탐지기의 정확성에는 여전히 논란의 여지가 있으며, 'AI가 작성했다'는 것이 'AI가 전적으로 창작했다'는 의미인지, 아니면 'AI의 도움을 받아 편집되거나 초안이 작성되었다'는 의미인지에 대한 해석의 여지도 존재한다. 그러나 이 사건은 AI 시대에 '인간의 창작물'과 'AI의 보조' 사이의 경계가 얼마나 모호해지고 있는지를 극명하게 보여주는 사례이며, 권위 있는 기관의 공식 문서조차 이러한 논란에서 자유롭지 못하다는 현실을 드러낸다.
### 향후 전망
이번 논란은 교황청이 앞으로 AI 기술을 어떻게 수용하고 활용할지에 대한 중요한 전환점이 될 수 있다. 교황청은 이 분석 결과에 대해 공식적인 입장을 표명할지, 아니면 침묵할지 선택해야 할 것이다. 어떤 선택을 하든, 이는 전 세계 가톨릭 신자들과 일반 대중에게 교황청의 기술에 대한 태도를 명확히 보여주는 계기가 될 것이다. 만약 AI 사용이 사실로 드러난다면, 이는 다른 종교 기관이나 정부, 학술 기관 등 권위 있는 단체들이 공식 문서를 작성할 때 AI 활용에 대한 투명성 가이드라인을 마련해야 한다는 압력으로 작용할 수 있다.
또한, 이번 사건은 AI 탐지 기술의 발전 방향에도 영향을 미칠 것이다. AI 탐지기의 정확성과 신뢰성에 대한 논쟁은 더욱 뜨거워질 것이며, 이는 더 정교한 탐지 기술의 개발을 촉진하거나, 반대로 AI 생성 콘텐츠의 워터마킹과 같은 새로운 표준의 필요성을 부각시킬 수 있다. 궁극적으로, 이 사건은 AI가 우리 사회의 모든 영역에 얼마나 깊숙이 침투해 있으며, '인간의 손길'이 무엇을 의미하는지에 대한 근본적인 질문을 계속 던지게 할 것이다. AI의 효율성과 인간의 진정성 사이에서 균형을 찾는 것은 앞으로도 우리 사회의 중요한 과제로 남을 것이다.
**시사점** — AI의 위험을 경고하는 메시지조차 AI의 손을 거쳤을 수 있다는 아이러니는, 우리가 AI 시대에 마주할 진실성과 권위의 새로운 딜레마를 예고한다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/937801/pope-leo-xiv-magnifica-humanitas-ai-pangram))
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.