[Techmeme 요약] 중국, 7월 15일부터 AI 인간형 상호작용 규제 시행…바이트댄스·알리바바 맞춤형 AI 에이전트 기능 중단
5
설명
중국 정부가 오는 7월 15일부터 인공지능(AI)의 인간형 상호작용에 대한 새로운 규제를 시행합니다.
이에 따라 바이트댄스(ByteDance)의 더우바오(Doubao)와 알리바바(Alibaba)의 큐원(Qwen)은 사용자가 직접 만들거나 맞춤 설정한 AI 에이전트 기능을 중단합니다.
이번 조치는 AI 기술의 급속한 발전 속에서 발생할 수 있는 잠재적 위험을 관리하기 위한 중국 정부의 노력의 일환입니다.
### 배경 설명
중국 정부는 인공지능(AI) 기술의 급속한 발전과 함께 발생할 수 있는 사회적, 윤리적 문제에 대한 우려를 표명해 왔습니다. 특히, 인간의 감정이나 성격, 사고방식을 모방하여 사용자와 지속적인 상호작용을 제공하는 AI 서비스에 대한 규제 필요성이 제기되었습니다.
이에 따라 중국 인터넷정보판공실(CAC)은 지난 4월 '인공지능 인간형 상호작용 서비스 관리 잠정 조치(Interim Measures for the Administration of Artificial Intelligence Anthropomorphic Interaction Services)'를 발표했습니다. 이 규제는 2024년 7월 15일부터 시행될 예정이며, 인간의 성격 특성, 사고 패턴, 소통 방식을 모방하여 지속적인 감정적 상호작용을 제공하는 AI 서비스를 대상으로 합니다. 다만, 고객 서비스 봇, 지식 질의응답, 업무 보조, 교육 및 과학 연구 도구 등 감정적 상호작용이 주된 목적이 아닌 경우는 규제 대상에서 제외됩니다. 규제는 극단적인 사상 전파, 개인정보 유출, 신체 및 정신 건강에 대한 해악, 의존성 및 중독 등의 위험을 방지하는 데 목적을 두고 있습니다.
### 주요 AI 서비스의 맞춤형 에이전트 기능 중단
바이트댄스의 더우바오와 알리바바의 큐원은 새로운 규제 시행에 맞춰 사용자가 직접 생성하거나 맞춤 설정한 AI 에이전트 기능을 중단하기로 결정했습니다. 더우바오는 7월 15일부터 에이전트 기능이 중단된다고 공지했으며, 10월 15일 이후에는 관련 데이터가 회사의 개인정보 처리방침에 따라 관리될 예정입니다. 큐원 역시 7월 10일부터 '인간형 상호작용 에이전트 및 사용자 생성 에이전트 기능'을 비활성화하고, 7월 15일부터는 전반적인 '큐원 에이전트 기능 및 서비스'를 중단한다고 밝혔습니다. 이로 인해 사용자는 더 이상 관련 에이전트 설정이나 이전 대화 기록에 접근할 수 없게 됩니다.
### 맞춤형 AI 에이전트의 역할과 규제 대상
더우바오와 큐원에서 제공하던 맞춤형 에이전트 기능은 사용자가 특정 작업, 기술, 대화 스타일을 위해 AI를 맞춤 설정할 수 있도록 했습니다. 사용자는 일반적인 챗봇을 특정 페르소나와 말투를 가진 이름 있는 조수, 튜터, 역할극 캐릭터 또는 동반자로 변형시킬 수 있었습니다. 그러나 이러한 기능은 인간의 감정적 상호작용을 모방할 수 있어, 새로운 규제의 주요 대상이 되었습니다.
### 중국 정부의 AI 규제 배경 및 목적
이번 규제는 중국 정부가 AI 기술의 건전한 발전과 사회적 안정을 동시에 추구하려는 의지를 보여줍니다. '인공지능 인간형 상호작용 서비스 관리 잠정 조치'는 AI가 인간의 감정에 영향을 미치거나 사회적 혼란을 야기할 수 있는 잠재적 위험을 통제하기 위한 것입니다. 특히, AI가 인간의 감정적 유대감을 형성하는 데 깊이 관여할 경우 발생할 수 있는 부작용에 대한 우려가 반영되었습니다.
### 가치와 인사이트
이번 조치는 중국 내 AI 서비스 제공업체들이 규제 준수를 위해 사용자 경험의 일부를 조정해야 함을 시사합니다. 특히, 인간과 유사한 상호작용을 제공하는 AI 서비스에 대한 정부의 감독이 강화될 것임을 보여줍니다. 이는 AI 개발 및 서비스 제공 방식에 있어 윤리적 고려와 규제 준수의 중요성을 더욱 부각시킵니다.
### 향후 전망
이번 규제 시행은 중국 내 AI 산업 전반에 걸쳐 '인간형' AI 서비스의 개발 및 운영 방식에 변화를 가져올 것으로 예상됩니다. 감정적 상호작용에 초점을 맞춘 AI 서비스는 더욱 엄격한 심사 및 관리 대상이 될 가능성이 높습니다. 또한, AI 에이전트의 개인화 및 맞춤 설정 기능이 제한됨에 따라, 사용자들은 AI와의 상호작용에서 이전과 다른 경험을 하게 될 것입니다.
장기적으로는 이러한 규제가 AI 기술의 윤리적 발전 방향을 설정하고, AI가 사회에 미치는 긍정적인 영향을 극대화하는 동시에 부정적인 영향을 최소화하는 데 기여할 수 있습니다. 또한, 중국의 규제 동향은 다른 국가들의 AI 규제 논의에도 영향을 미칠 수 있으며, 글로벌 AI 생태계의 발전 방향에 중요한 변수가 될 수 있습니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260705/p9#a260705p9)
- 원문 기사: [링크 열기](https://www.scmp.com/tech/big-tech/article/3359482/bytedance-and-alibaba-disable-humanlike-ai-custom-agents-new-rules-loom)
---
출처: Techmeme ([Original Article](https://www.scmp.com/tech/big-tech/article/3359482/bytedance-and-alibaba-disable-humanlike-ai-custom-agents-new-rules-loom))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.