[Techmeme 요약] 엔비디아 CEO 젠슨 황, AI의 '소프트웨어적 본질' 강조하며 안전 투자 10배 증액 및 오픈AI 폐쇄 주장
82
설명
엔비디아 CEO 젠슨 황은 최근 에즈라 클라인과의 인터뷰에서 인공지능(AI)이 본질적으로 소프트웨어이며, 과장된 실존적 위험을 가지고 있지 않다고 주장했습니다. 그러나 그는 AI 모델의 안전성 검증 및 테스트에 현재보다 10배 많은 투자가 필요하며, 안전 기준을 충족하지 못하는 경우 오픈AI와 같은 기업을 폐쇄해야 한다고 말했습니다. 이 발언은 AI의 미래와 안전 규제에 대한 중요한 논쟁을 불러일으키고 있습니다.
### 배경 설명
젠슨 황(Jensen Huang)은 엔비디아(Nvidia)의 CEO로, AI 개발에 필수적인 그래픽 처리 장치(GPU) 시장을 장악하고 있는 인물입니다. 그의 발언은 AI 기술의 발전 방향과 안전 문제에 대한 업계의 인식을 형성하는 데 큰 영향을 미칩니다. 특히, 그는 AI를 기존의 소프트웨어와 근본적으로 다르지 않다고 보며, 기술 발전 속도보다는 '안전'과 '품질 관리'를 최우선으로 삼아야 한다고 강조합니다. 이는 AI의 잠재적 위험을 경고하는 다른 전문가들과는 다른 시각입니다.
이번 인터뷰는 AI의 '실존적 위험(existential risk)'에 대한 논쟁을 중심으로 진행되었습니다. 실존적 위험이란 AI가 인류의 생존 자체를 위협할 수 있는 극단적인 시나리오를 의미합니다. 황 CEO는 이러한 위험이 과장되었다고 보지만, 동시에 AI 시스템의 안전성 확보를 위한 막대한 투자와 엄격한 검증 절차의 필요성을 역설했습니다. 그의 주장은 AI 기술의 발전과 안전 사이의 균형점을 어떻게 찾아야 할지에 대한 근본적인 질문을 던집니다.
### AI는 소프트웨어일 뿐, 과장된 위험은 없다?
젠슨 황 CEO는 AI를 기존 소프트웨어와 동일한 범주로 보며, '새로운 추상화 수준'일 뿐이라고 주장했습니다. 그는 AI가 아무리 발전해도 근본적으로 세상을 바꾸는 '다른 종류의 것'이 될 수는 없다고 말했습니다. 이러한 관점에서 그는 AI의 실존적 위험이나 초지능(superintelligence)의 등장을 회의적으로 바라봅니다. 그는 AI 기술이 유용해진 것은 최근 6개월 사이의 일이며, 이전에는 15년간의 노력이 필요했다고 언급했습니다. 또한, AI로 인한 일자리 감소보다는 새로운 산업과 직업이 창출될 것이라고 낙관적인 전망을 내놓았습니다. 그는 AI가 코딩을 더 쉽게 만들고 개인의 생산성을 높여줄 것이라고 강조하며, 불안감보다는 기대감을 가져야 한다고 말했습니다.
### 안전 검증에 10배 투자, 기준 미달 시 '폐쇄' 주장
황 CEO는 AI 모델의 안전성 검증 및 테스트에 현재보다 10배 많은 컴퓨팅 자원이 필요할 수 있다고 밝혔습니다. 그는 "검증, 평가 및 테스트에 R&D의 상당 부분을 전환해야 할 것"이라며, "평가가 매우 엄격하기 때문에 모델 개발에 필요한 컴퓨팅 양이 10배 증가할 수도 있다"고 말했습니다. 또한, 그는 만약 AI 실험을 통제할 방법이 없고 모델이 세상을 해칠 수 있다면, 해당 연구소를 폐쇄해야 한다고 주장했습니다. 이는 오픈AI와 같은 선도적인 AI 기업들이 안전 기준을 충족하지 못할 경우, 그들의 운영을 중단시켜야 한다는 의미로 해석될 수 있습니다. 그는 "인류에게 미치는 피해가 너무 크다면, 연구소를 폐쇄해야 한다"고 단호하게 말했습니다.
### 오픈 웨이트 모델의 역할과 중국과의 관계
젠슨 황은 엔비디아의 AI 칩이 모든 AI 연구소와 모델에서 사용된다는 점을 강조하며, 오픈 웨이트(open weights) 모델의 중요성을 언급했습니다. 그는 오픈 모델이 사이버 방어에 필요하며, 이를 통해 모델을 개선할 수 있다고 주장했습니다. 그는 중국이 오픈 모델 생태계를 발전시킨 이유를 사람들이 자주 이동하여 지적 재산권 보호가 어렵기 때문이라고 설명했지만, 이는 중국 모델의 성능 부족과 대규모 사기적 증류(fraudulent distillation)에 기반한 것이라는 비판도 있습니다. 그는 AI 경쟁을 중국과의 '경쟁'으로 보기보다는 자체적인 표준을 따르는 것이 중요하다고 말했습니다.
### AI의 '의지'와 '인간적 속성'에 대한 회의론
황 CEO는 AI 에이전트가 보여주는 복잡한 행동이나 계획 능력을 인간의 의지나 의식과는 다르다고 선을 그었습니다. 그는 "이것은 소프트웨어일 뿐이며, 인간적인 속성을 부여해서는 안 된다"고 강조했습니다. 그는 AI가 보여주는 '지속성(persistence)'이나 '의지(willpower)'와 같은 단어들이 운영체제(OS)의 프로세스 관리에서 사용되는 용어와 유사하며, 이를 인간의 특성과 혼동해서는 안 된다고 주장했습니다. 그는 AI를 '살아있는 것'이나 '그 이상'으로 보는 시각에 대해 회의적이며, 이러한 과장된 표현이 대중을 불안하게 만든다고 지적했습니다.
### 가치와 인사이트
젠슨 황 CEO의 발언은 AI 기술의 본질에 대한 그의 독특한 시각을 보여줍니다. 그는 AI를 기존 소프트웨어의 연장선으로 보며, 실존적 위험보다는 실제적인 안전 문제에 집중해야 한다고 주장합니다. 그의 발언은 AI 안전 규제에 대한 논의를 더욱 복잡하게 만들며, 기술 발전 속도와 안전 확보라는 두 가지 상반된 요구 사이의 긴장을 드러냅니다. 특히, 그는 AI 기업들이 스스로 안전 기준을 마련하고 준수해야 하며, 이를 지키지 못할 경우 시장에서 퇴출될 수 있다는 강력한 메시지를 전달했습니다.
### 향후 전망
젠슨 황 CEO의 발언은 AI 산업의 미래에 상당한 영향을 미칠 것으로 예상됩니다. 그의 '안전 기준 미달 시 폐쇄' 주장은 AI 개발 속도 조절에 대한 압박으로 작용할 수 있으며, 기업들은 안전 검증 및 테스트에 더 많은 자원을 투자해야 할 것입니다. 이는 AI 모델의 개발 비용 증가로 이어질 수 있으며, 소규모 연구소나 스타트업에게는 진입 장벽이 될 수 있습니다. 또한, 그의 발언은 AI 규제 논의에 있어 '기술 자체의 본질'과 '잠재적 위험'에 대한 다양한 관점을 제시하며, 향후 규제 프레임워크 수립에 중요한 참고 자료가 될 것입니다. AI 기술이 더욱 발전함에 따라, 젠슨 황 CEO가 제시한 '안전'이라는 키워드는 AI 산업의 지속 가능한 성장을 위한 핵심 요소로 자리 잡을 가능성이 높습니다. 그의 발언은 AI 기술이 사회에 미치는 영향에 대한 깊이 있는 성찰을 요구하며, 기술 개발자, 정책 입안자, 그리고 일반 대중 모두에게 AI의 미래에 대한 책임감 있는 논의를 촉구합니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260925/p9#a260925p9)
- 원문 기사: [링크 열기](https://thezvi.substack.com/p/on-ezra-kleins-podcast-with-jensen)
---
출처: Techmeme ([Original Article](https://thezvi.substack.com/p/on-ezra-kleins-podcast-with-jensen))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.