[The Verge] OpenAI, 챗GPT 대화 경고 무시로 캐나다 총기 난사 사건 방조 혐의로 피소
69
설명
생성형 AI의 윤리적 책임에 대한 논란이 뜨겁다. 특히 대규모 언어 모델(LLM)이 범죄에 악용될 가능성은 이미 여러 차례 제기되어 왔다. 2024년 5월 15일, 캐나다 텀블러리지에서 발생한 총기 난사 사건과 관련하여 OpenAI와 CEO 샘 알트먼이 30건의 새로운 소송에 직면했다. 이는 지난 4월 텀블러리지 사건 피해자 가족들이 제기한 소송에 이은 것으로, AI 기업의 책임 범위를 둘러싼 법적 공방이 더욱 치열해질 전망이다.
이번 소송은 AI가 잠재적 위험 신호를 감지했음에도 불구하고 이를 무시하거나 적절히 대응하지 않아 비극적인 결과를 초래했다는 점을 지적한다. 특히, 피고인 제시 반 루트셀라르(Jesse Van Rootselaar)가 챗GPT와 총기 관련 대화를 나눴다는 사실이 OpenAI의 자동 검토 시스템에 의해 사전에 감지되었음에도 불구하고, OpenAI가 이를 간과했다는 주장이 핵심이다. 이는 AI 개발 및 운영 주체가 사용자 행동의 잠재적 위험을 얼마나 인지하고 통제해야 하는지에 대한 근본적인 질문을 던진다.
새로운 소송은 텀블러리지 사건 당시 학교에 재학 중이던 학생, 교사, 그리고 교장이 캘리포니아 연방 법원에 제기했다. 이들은 OpenAI가 챗GPT와 총기 폭력에 대한 대화를 나눈 것으로 알려진 용의자 제시 반 루트셀라르의 활동을 감지했음에도 불구하고, 이를 방치함으로써 사건 발생에 '실질적인 조력과 격려'를 제공했다고 주장한다. 이는 단순히 기술적 결함을 넘어, AI 기업이 사회적 안전망으로서의 역할을 얼마나 수행해야 하는지에 대한 법적 기준을 제시하려는 시도로 볼 수 있다.
OpenAI는 그동안 AI의 안전한 사용을 위한 노력을 강조해왔지만, 이번 소송은 이러한 노력이 실제 범죄 예방으로 이어지지 못했다는 비판에 직면하게 되었다. 특히, 자동 검토 시스템이 경고 신호를 보냈음에도 불구하고 후속 조치가 이루어지지 않았다는 점은 OpenAI의 내부 관리 및 위험 평가 프로세스에 대한 의문을 제기한다. 이는 AI 기술 발전 속도에 비해 법적, 윤리적 규제가 뒤처져 있음을 보여주는 사례이며, 향후 유사한 사건 발생 시 AI 기업의 책임 소재를 가리는 중요한 판례가 될 가능성이 있다.
### 향후 전망
이번 소송 결과는 AI 기업들이 사용자 행동을 모니터링하고 잠재적 위험을 예방하기 위해 어떤 조치를 취해야 하는지에 대한 새로운 기준을 제시할 수 있다. 만약 법원이 OpenAI의 책임을 인정한다면, 이는 AI 개발사들이 더욱 엄격한 안전 조치를 의무화하고, 위험 신호 감지 시스템의 효율성을 높이며, 잠재적 오용에 대한 사전 예방책을 강화하도록 압박할 것이다. 또한, 다른 AI 기업들도 유사한 소송에 대비하여 자체적인 위험 관리 시스템을 재점검하고 강화할 것으로 예상된다. 규제 당국 역시 이러한 법적 판결을 바탕으로 AI 관련 규제를 더욱 강화할 가능성이 높다. 다만, AI의 자율성과 창의성을 저해하지 않으면서도 사회적 안전을 확보하는 균형점을 찾는 것이 중요한 과제가 될 것이다.
**시사점** — AI 기업은 잠재적 위험 신호를 감지했을 때 이를 간과하지 않고 적극적으로 대응해야 하며, 그렇지 못할 경우 법적 책임을 피하기 어려울 수 있다.
---
출처: The Verge ([Original Link](https://www.theverge.com/ai-artificial-intelligence/988261/openai-tumbler-ridge-shooting-lawsuit-aiding-abetting))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.