[Techmeme 요약] AI 챗봇, 러시아·중국·이란발 가짜뉴스 90% 이상 반박 성공… 검색 결과 요약은 60% 수준
104
설명
최근 NPR과 뉴스 가드(NewsGuard)의 공동 실험 결과, 주요 AI 챗봇들이 러시아, 중국, 이란 등에서 퍼뜨리는 가짜뉴스에 대해 90% 이상 반박하는 능력을 보였습니다.
하지만 검색 결과 상단에 표시되는 AI 요약 기능은 이보다 낮은 60% 수준의 반박률을 기록했습니다.
이는 AI 챗봇이 허위 정보 확산에 더 효과적으로 대응할 수 있음을 시사합니다.
### 배경 설명
최근 몇 년간 생성형 인공지능(AI) 챗봇의 인기가 급증하고, 구글과 같은 검색 엔진이 AI 기반의 답변 요약을 제공하기 시작하면서, 일부 국가들이 AI를 통해 허위 정보를 유포할 수 있다는 우려가 제기되었습니다.
이러한 배경 속에서 NPR과 온라인 허위 정보 감시 기업인 뉴스 가드는 2025년 12월부터 2026년 7월 사이에 러시아, 중국, 이란 등에서 퍼뜨린 15가지 허위 정보에 기반한 질문을 만들어, 여러 AI 챗봇과 검색 엔진에 던져 그 성능을 비교하는 실험을 진행했습니다.
실험은 AI 챗봇이 허위 정보를 얼마나 효과적으로 반박하고, 잘못된 정보를 무비판적으로 수용하는지, 그리고 AI 요약 기능이 전통적인 검색 결과와 비교했을 때 어떤 차이를 보이는지에 초점을 맞췄습니다.
### AI 챗봇, 허위 정보에 대한 높은 방어력 입증
NPR과 뉴스 가드가 진행한 실험에서 OpenAI의 ChatGPT, Google의 Gemini 등 주요 AI 챗봇들은 러시아, 중국, 이란 등에서 퍼뜨린 15가지 허위 정보에 대해 평균 90% 이상의 높은 반박률을 기록했습니다. 예를 들어, 우크라이나의 역사적인 수도원을 러시아가 포격한 사건에 대해 우크라이나가 폭격했다는 허위 주장에 대해 챗봇들은 질문의 전제가 잘못되었음을 지적하고, 해당 주장이 러시아의 허위 정보 캠페인에서 비롯되었다고 설명했습니다. 이는 전통적인 검색 엔진의 결과보다 훨씬 높은 수준의 정확성을 보여주었습니다.
### AI 검색 요약 기능, 챗봇보다 낮은 성능
반면, 구글 검색 결과 상단에 표시되는 AI 요약 기능(AI Overviews)은 허위 정보에 대한 반박률이 60% 수준으로 AI 챗봇보다 낮았습니다. 특히 마이크로소프트 빙(Bing)의 AI 요약 기능은 절반 이상의 경우 허위 정보를 제대로 반박하지 못하는 모습을 보였습니다. 구글의 AI 요약은 대부분의 경우 허위 정보를 반박했지만, 챗봇보다는 낮은 성능을 보였습니다. 이는 AI 요약 기능이 아직 허위 정보에 대한 대응 능력이 부족하며, 사용자에게 더 많은 주의를 요구할 수 있음을 시사합니다.
### AI, 정보 신뢰도 분석 능력의 잠재력
실험 과정에서 일부 AI 챗봇은 단순히 정보를 제공하는 것을 넘어, 정보의 출처나 신뢰도를 분석하는 능력을 보여주기도 했습니다. 예를 들어, 대만 총통 사임 촉구 온라인 청원 참여자 수에 대한 질문에 ChatGPT는 해당 수치가 공개적으로 감사받은 청원 데이터가 아닌 중국 관영 언론 및 관련 계정에서 비롯된 것으로 보인다고 답변했습니다. 이는 AI가 정보의 출처를 비판적으로 평가하고 사용자에게 더 신뢰할 수 있는 정보를 제공할 잠재력을 가지고 있음을 보여줍니다.
### AI의 한계와 향후 과제
하지만 AI도 완벽하지는 않습니다. 일부 챗봇은 허위 정보를 완전히 반박하지 못하고, 잘못된 정보와 함께 유용한 정보를 섞어 제공하는 경우도 있었습니다. 또한, AI가 제시하는 정보의 출처가 항상 명확하지 않거나, 인용된 출처에서 사실과 다른 내용이 발견되는 경우도 있었습니다. 예를 들어, 워싱턴 대학교 세인트루이스 캠퍼스 연구진의 최근 논문에서는 구글 AI 요약의 사실 주장 중 약 9분의 1이 인용된 출처에서 뒷받침되지 않았다고 지적했습니다. 이는 AI가 제공하는 정보의 정확성을 검증하는 것이 여전히 중요함을 강조합니다.
### 가치와 인사이트
이번 NPR과 뉴스 가드의 실험은 AI 챗봇이 국가 주도의 허위 정보 확산에 대해 상당한 방어 능력을 갖추고 있음을 보여주며, 이는 AI가 정보 생태계에서 긍정적인 역할을 할 수 있다는 기대를 갖게 합니다. 하지만 검색 결과 AI 요약 기능의 낮은 성능은 아직 개선의 여지가 많음을 시사하며, AI가 제공하는 정보에 대한 비판적 사고와 검증의 중요성을 다시 한번 강조합니다.
### 향후 전망
AI 챗봇의 허위 정보 대응 능력 향상은 향후 온라인 정보 환경에 큰 변화를 가져올 수 있습니다. 사용자는 AI 챗봇을 통해 더 신뢰할 수 있는 정보를 빠르게 얻을 수 있으며, 이는 가짜뉴스 확산을 억제하는 데 기여할 수 있습니다. 또한, AI가 정보의 신뢰도를 분석하는 능력이 발전한다면, 사용자들은 정보의 출처를 일일이 확인하는 수고를 덜고도 더 정확한 정보를 얻을 수 있게 될 것입니다.
하지만 AI 요약 기능의 개선이 시급합니다. 검색 엔진은 AI 요약 기능의 정확성을 높이고 허위 정보에 대한 반박률을 끌어올려야 합니다. 또한, AI가 제공하는 정보의 투명성을 높이고, 사용자가 정보의 출처와 신뢰도를 쉽게 확인할 수 있도록 하는 기술 개발이 필요합니다. 이러한 노력은 AI가 정보 접근성을 높이는 동시에, 허위 정보로부터 사용자를 보호하는 강력한 도구가 될 수 있도록 할 것입니다. 궁극적으로는 AI 기술 발전과 함께 정보 리터러시 교육의 중요성도 더욱 커질 것입니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260830/p9#a260830p9)
- 원문 기사: [링크 열기](https://www.npr.org/2026/08/30/nx-s1-5876436/chatbots-search-propaganda)
---
출처: Techmeme ([Original Article](https://www.npr.org/2026/08/30/nx-s1-5876436/chatbots-search-propaganda))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.