[Techmeme 요약] 'ChatGPT for Teens'의 안전성 논란: 비영리 단체, '미성년자에게 부적절한 위험' 경고
2
설명
비영리 단체인 커먼 센스 미디어(Common Sense Media)가 오픈AI(OpenAI)의 'ChatGPT for Teens'가 미성년자에게 '부적절한 위험'을 초래한다고 지적했습니다. 2026년 8월 출시된 이 서비스는 미성년자를 위한 안전 장치를 갖췄다고 홍보되었으나, 실제 평가에서는 약속된 수준의 보호 기능을 제공하지 못한다는 결과가 나왔습니다.
커먼 센스 미디어의 보고서에 따르면, 'ChatGPT for Teens'는 위기 상황에 대한 적절한 도움을 제공하지 못하며, 부모에게 필요한 경고 알림을 보내지 않는 것으로 나타났습니다. 또한, 여전히 학생들의 숙제를 대신 해주는 문제도 발생하고 있다고 합니다.
이에 대해 오픈AI는 반박하며, 커먼 센스 미디어의 테스트 방법론이 부정확하며, 자사의 안전 기능이 실제로는 잘 작동한다고 주장했습니다. 하지만 커먼 센스 미디어는 자신들의 테스트 결과에 확신을 보이며, 오픈AI가 문제점을 개선하고 독립적인 검증을 거치기 전까지는 'ChatGPT for Teens'의 사용을 성인에게만 국한해야 한다고 강조했습니다.
### 배경 설명
인공지능(AI) 챗봇 기술이 빠르게 발전하면서, 미성년자들의 AI 활용에 대한 안전성 문제가 중요한 사회적 이슈로 떠오르고 있습니다. 특히 오픈AI(OpenAI)가 개발한 'ChatGPT'는 뛰어난 대화 능력과 정보 제공 능력으로 전 세계적인 주목을 받고 있습니다. 이에 오픈AI는 미성년자 사용자들을 위해 별도의 'ChatGPT for Teens' 버전을 출시하며 안전 장치를 강화했다고 밝혔습니다. 이 버전은 미성년 사용자의 특성을 고려한 보호 기능과 교육적 활용을 목표로 합니다.
하지만 비영리 단체인 커먼 센스 미디어(Common Sense Media)는 이러한 안전 장치가 실질적으로 효과적인지에 대한 독립적인 평가를 진행했습니다. 이 단체는 앱, 서비스, 엔터테인먼트 콘텐츠를 청소년 안전에 초점을 맞춰 검토하는 기관으로, 이번 평가 결과는 'ChatGPT for Teens'의 안전성에 대한 심각한 우려를 제기하고 있습니다. 특히, 위기 상황에서의 대처 능력 부족과 부모에게 전달되어야 할 알림 기능의 미작동 등은 미성년자 보호라는 본래의 목적에 부합하지 않는다는 지적입니다.
### 커먼 센스 미디어의 'ChatGPT for Teens' 평가 결과
커먼 센스 미디어는 2026년 10월 7일 발표한 보고서에서 'ChatGPT for Teens'가 '부적절한 위험'을 안고 있다고 결론 내렸습니다. 이들은 자체 평가를 통해 해당 서비스가 부모에게 필요한 경고 알림을 제때 보내지 않으며, 자해 등 심각한 위기 상황에 대한 적절한 도움을 제공하지 못한다고 지적했습니다. 또한, 'ChatGPT for Teens'가 여전히 학생들의 숙제를 대신 해주는 등 교육적 오용 가능성도 확인되었습니다. 커먼 센스 미디어의 청소년 AI 안전 연구소(Youth AI Safety Institute) 책임자인 톰 시겔(Tom Siegel)은 "'ChatGPT for Teens'는 부모에게 안전 장치와 경고 알림이 제대로 작동하지 않는다는 잘못된 안심을 줄 수 있다"고 말했습니다. 그는 "한 청소년이 자해에 대해 한 시간 동안 이야기해도 부모에게 단 한 번의 경고도 가지 않는다"며, 오픈AI가 이를 개선하고 독립적인 테스트를 통해 입증하기 전까지는 성인만 사용해야 한다고 주장했습니다.
### 오픈AI의 반박과 논란
오픈AI는 커먼 센스 미디어의 평가 결과에 대해 즉각 반박했습니다. 오픈AI 대변인 에릭 포터필드(Eric Porterfield)는 "미성년자 안전에 깊이 헌신하고 있으며, 안전 장치를 개발하고 부모에게 미성년자 AI 사용을 안내할 수 있는 의미 있는 도구를 제공한다"고 밝혔습니다. 그는 커먼 센스 미디어의 테스트가 'ChatGPT'의 미성년자 안전 기능이 실제 작동하는 방식이나 AI가 미성년자를 지원하는 전문가 관점을 정확하게 반영하지 못한다고 주장했습니다. 오픈AI는 커먼 센스 미디어의 방법론 검토 결과, 테스트의 상당 부분이 부모 통제 기능 활성화가 완료되기 전에 시작되고 종료되었을 가능성이 있으며, 이로 인해 결과가 부정확할 수 있다고 지적했습니다. 또한, 이러한 테스트는 설계대로 작동하는지 여부를 확립할 수 없다고 덧붙였습니다.
### 커먼 센스 미디어의 재반박 및 향후 과제
커먼 센스 미디어는 오픈AI의 반박에 대해 자신들의 테스트 방법론과 결과에 확신을 보였습니다. 톰 시겔은 테스트 시작 전, '청소년 모드'의 특정 알림 기능(섭식 장애 알림, 학습 모드 등)이 완전히 출시되었음을 오픈AI와 확인했다고 밝혔습니다. 또한, 일부 테스트 계정의 경우, 오픈AI가 테스트 후에야 새로운 계정 연결 시 시스템 활성화에 몇 시간이 걸릴 수 있다고 공개했으나, 일부 계정은 훨씬 더 오래 연결되었음에도 알림이 없었다고 지적했습니다. 이러한 새로운 정보가 부모 알림이 위기 상황에서 신뢰할 수 없다는 결론을 바꾸지는 않는다고 강조했습니다. 커먼 센스 미디어는 아이들의 안전을 위해 독립적인 평가가 필수적이며, 오픈AI가 자신들의 발견 내용에 대해 논의하기를 희망한다고 전했습니다.
### 가치와 인사이트
이번 논란은 AI 기술의 급속한 발전과 함께 미성년자 보호라는 윤리적, 사회적 과제가 얼마나 중요한지를 다시 한번 보여줍니다. 'ChatGPT for Teens'와 같은 서비스는 교육적 잠재력을 가지고 있지만, 실제 운영 과정에서의 안전성 검증은 필수적입니다. 커먼 센스 미디어의 평가는 기술 기업의 자체적인 홍보보다 독립적이고 객관적인 검증의 중요성을 시사합니다. 오픈AI와 같은 선도적인 AI 기업들은 기술 개발뿐만 아니라, 사회적 책임과 안전망 구축에도 더 많은 노력을 기울여야 할 것입니다.
### 향후 전망
이번 사건은 향후 AI 서비스 개발 및 규제에 큰 영향을 미칠 것으로 예상됩니다. AI 기업들은 미성년자 대상 서비스 출시 시, 더욱 엄격한 안전성 테스트와 투명한 정보 공개를 요구받게 될 것입니다. 또한, 정부 및 규제 기관은 AI의 미성년자 접근 및 사용에 대한 구체적인 가이드라인과 법적 기준을 마련하는 데 박차를 가할 가능성이 높습니다. 교육 현장에서는 AI 도구의 활용 방안과 함께 잠재적 위험에 대한 교육이 강화될 것이며, 부모들은 자녀의 AI 사용에 대해 더욱 신중한 접근을 하게 될 것입니다. 궁극적으로는 AI 기술이 사회에 긍정적으로 통합되기 위한 기술적, 윤리적, 법적 논의가 더욱 활발해질 것입니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/261007/p8#a261007p8)
- 원문 기사: [링크 열기](https://www.theverge.com/ai-artificial-intelligence/1006355/openai-chatgpt-for-teens-common-sense-media)
---
출처: Techmeme ([Original Article](https://www.theverge.com/ai-artificial-intelligence/1006355/openai-chatgpt-for-teens-common-sense-media))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.