[The Verge] 캘리포니아 주지사, AI '킬 스위치' 도입 추진하며 규제 선봉 나서
41
설명
인공지능(AI) 기술이 급속도로 발전하면서, 그 잠재적 위험성에 대한 우려도 커지고 있습니다. 특히 '프론티어 모델'이라 불리는 최첨단 AI 시스템은 예측 불가능한 결과를 초래할 수 있다는 점에서 규제의 필요성이 제기되어 왔습니다. 과거에도 새로운 기술이 등장할 때마다 사회적 합의와 안전 장치 마련에 대한 논의가 이어졌지만, AI의 파급력과 속도는 이전과는 차원이 다릅니다. 이러한 배경 속에서 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 AI 규제 논의를 주도하며 실질적인 안전 조치 마련에 나섰습니다.
이번 움직임은 2024년 3월 22일(금) 발표된 행정명령을 통해 구체화되었습니다. 이는 캘리포니아 주가 AI 감독 분야에서 선도적인 역할을 하겠다는 의지를 분명히 보여주는 동시에, AI 기술의 안전한 개발과 배포를 위한 구체적인 방안을 모색하겠다는 신호탄입니다. 특히 '킬 스위치'와 같은 강력한 안전 장치 도입을 검토하겠다는 점은 AI의 오용이나 통제 불능 상황에 대한 경각심을 반영합니다.
개빈 뉴섬 주지사의 행정명령은 AI 안전 조치를 강화하기 위한 구체적인 로드맵을 제시합니다. 핵심은 두 달 안에 전문가 그룹을 소집하여 캘리포니아 주의 법률에 AI 안전 조치를 어떻게 통합할지에 대한 권고안을 도출하는 것입니다. 이 전문가 그룹은 AI 기업들이 자체적으로 독립적인 검증 그룹을 상주시켜 정기적인 감사를 받도록 의무화하는 방안, 투명성 보고서와 위험 평가를 독립 감사 기준에 따라 관리하도록 하는 방안 등을 검토할 예정입니다.
가장 주목할 만한 부분은 '킬 스위치' 도입 검토입니다. 이는 AI 시스템이 위험한 행동을 하거나 통제 불능 상태에 빠졌을 때, 즉각적으로 작동을 중단시킬 수 있는 비상 정지 장치를 의미합니다. 프론티어 모델의 경우, 그 잠재적 영향력이 막대하기 때문에 이러한 최후의 안전 장치는 필수적이라는 인식이 확산되고 있습니다. 캘리포니아 주가 이러한 규제를 선도적으로 도입한다면, 이는 미국 전역은 물론 전 세계 AI 규제 논의에도 상당한 영향을 미칠 것으로 예상됩니다. 다만, '킬 스위치'의 구체적인 작동 방식, 적용 대상, 그리고 이를 누가 통제할 것인지 등은 앞으로 치열한 논의를 거쳐야 할 과제입니다.
### 향후 전망
캘리포니아 주의 이번 행정명령은 AI 규제 논의에 새로운 국면을 열었습니다. 향후 두 달 안에 발표될 전문가 그룹의 권고안은 캘리포니아 주의 AI 관련 법규 제정에 직접적인 영향을 미칠 것입니다. 만약 '킬 스위치' 도입이 현실화된다면, 이는 다른 주 정부나 연방 정부의 유사한 규제 도입을 촉진하는 도화선이 될 수 있습니다. 또한, AI 개발 기업들은 이러한 규제 움직임에 대응하여 자체적인 안전 기술 개발에 더욱 박차를 가할 것으로 보입니다. 경쟁사들 역시 캘리포니아 주의 움직임을 예의주시하며 규제 준수 및 안전성 확보를 위한 전략을 재검토할 것입니다. 하지만 '킬 스위치'의 기술적 구현 가능성, 남용 가능성, 그리고 혁신을 저해할 수 있다는 반론 등 해결해야 할 과제도 산적해 있습니다. 궁극적으로는 기술 발전과 안전 확보라는 두 가지 목표 사이에서 균형점을 찾는 것이 중요합니다.
**시사점** — 캘리포니아 주가 AI '킬 스위치' 도입을 포함한 강력한 규제 검토에 착수하며, AI 안전성 확보를 위한 실질적인 법적 장치 마련에 나섰습니다.
---
출처: The Verge ([Original Link](https://www.theverge.com/policy/997516/california-governor-newsom-ai-kill-switch))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.