[Techmeme 요약] OpenAI, 16개월 만에 엔비디아 칩 능가하는 자체 AI 칩 '잘라페뇨' 공개
5
설명
OpenAI는 자체 개발한 AI 칩 '잘라페뇨(Jalapeño)'를 공개하며 엔비디아, AMD, 구글의 기존 칩들을 뛰어넘는 성능을 보여주었습니다.
이 칩은 2024년 중반부터 약 16개월이라는 짧은 기간에 개발되었으며, 특히 에너지 효율성(성능/와트) 측면에서 두각을 나타냅니다.
잘라페뇨는 특정 모델에 특화되지 않은 범용 칩으로 설계되어 다양한 AI 워크로드에서 높은 성능을 발휘할 것으로 기대됩니다.
### 배경 설명
인공지능(AI) 모델, 특히 대규모 언어 모델(LLM)의 발전 속도가 빨라지면서 이를 효율적으로 처리할 수 있는 고성능 컴퓨팅 칩의 중요성이 커지고 있습니다. 기존에는 엔비디아(Nvidia)의 그래픽 처리 장치(GPU)가 AI 연산의 표준으로 여겨져 왔으나, AI 기업들이 자체적인 AI 칩 개발에 나서면서 경쟁 구도가 변화하고 있습니다. OpenAI가 이번에 공개한 '잘라페뇨' 칩은 이러한 흐름을 보여주는 대표적인 사례입니다. 이 칩은 브로드컴(Broadcom)과의 협력을 통해 개발되었으며, 기존의 범용 칩들과 달리 AI 추론(inference) 작업에 최적화된 설계를 특징으로 합니다. 특히, 칩 설계부터 제조까지 16개월이라는 짧은 개발 기간은 AI 기술이 칩 설계 과정 자체를 가속화하고 있음을 시사합니다.
### 잘라페뇨: 범용 AI 추론 칩의 등장
OpenAI의 잘라페뇨 칩은 특정 AI 모델에만 최적화된 것이 아니라, 다양한 종류의 AI 모델과 워크로드를 처리할 수 있는 범용 칩으로 설계되었습니다. 이는 기존의 많은 AI 칩들이 특정 목적에 맞춰 특화되는 경향과는 다른 접근 방식입니다. 잘라페뇨는 특히 에너지 효율성, 즉 와트당 처리할 수 있는 토큰(token)의 양(perf/W)에서 뛰어난 성능을 보입니다. 이는 데이터센터의 전력 제한이라는 현실적인 문제를 해결하는 데 중요한 요소입니다. 2026년 8월 25일 공개된 정보에 따르면, 잘라페뇨는 엔비디아의 최신 칩인 블랙웰(Blackwell)을 포함한 경쟁사 칩들보다 여러 주요 오픈소스 모델에서 더 나은 성능을 기록했습니다. 이는 하드웨어와 소프트웨어의 긴밀한 통합 설계(hardware-software codesign) 덕분입니다.
### 경쟁사 칩과의 성능 비교
잘라페뇨 칩은 다양한 벤치마크에서 엔비디아의 블랙웰, AMD, 구글의 칩들을 능가하는 성능을 보여주었습니다. 특히, 토큰 처리량(token throughput)과 에너지 효율성 측면에서 두각을 나타냈습니다. 예를 들어, 2026년 7월 엔비디아가 공개한 베라 루빈(Vera Rubin) 칩과 비교했을 때도 잘라페뇨는 더 높은 성능을 기록했습니다. 이는 잘라페뇨가 HBM4 메모리를 탑재하고, 에너지 효율성을 극대화하는 설계 덕분입니다. 또한, 잘라페뇨는 멀티 토큰 예측(Multi Token Prediction, MTP)과 같은 특정 최적화 없이도 경쟁사 칩들의 최적화된 설정보다 우수한 성능을 보여주어 범용적인 성능의 우수성을 입증했습니다. 다만, 일부 벤치마크 결과는 OpenAI가 제공한 데이터이며, 실제 프로덕션 환경에서의 복잡한 워크로드를 완벽하게 반영하지 못할 수 있다는 점은 고려해야 합니다.
### 기술적 특징 및 아키텍처
잘라페뇨 칩은 TSMC의 N3P 공정으로 제조되었으며, 700W의 TDP(열 설계 전력)를 가집니다. 이는 경쟁사 칩들에 비해 상대적으로 낮은 전력 소비로 높은 성능을 달성함을 의미합니다. 칩은 HBM4 메모리를 탑재하여 15.4TB/s의 메모리 대역폭을 제공하며, 이는 기존 HBM3E를 사용하는 칩들보다 뛰어난 성능입니다. 아키텍처 측면에서는 사전 계산(prefill)과 디코딩(decode) 단계를 분리하지 않는 설계 방식을 채택했습니다. 이는 작업 부하의 변화에 유연하게 대응하고, 데이터 이동을 최소화하여 효율성을 높이기 위한 결정입니다. 또한, OpenAI는 AI를 활용하여 칩 설계 과정에서 면적과 타이밍을 최적화했으며, 이는 칩 개발 기간 단축에도 기여했습니다. 잘라페뇨는 2025년 11월 테이프아웃(tape-out, 설계 완료 후 제조 준비) 이후 약 9개월 만에 초기 성능을 입증했으며, 현재 B0 스텝핑(stepping, 칩 수정 버전)은 약 25%의 성능 향상을 제공합니다.
### 가치와 인사이트
OpenAI의 잘라페뇨 칩 공개는 AI 칩 시장에 큰 파장을 일으키고 있습니다. 자체 칩 개발을 통해 엔비디아와 같은 기존 강자들을 뛰어넘는 성능을 단기간에 달성했다는 점은 AI 기업들의 하드웨어 독립 가능성을 보여줍니다. 이는 AI 모델 개발과 하드웨어 최적화가 긴밀하게 연계될 때 얼마나 큰 시너지를 낼 수 있는지를 증명하며, 향후 AI 산업의 경쟁 구도를 재편할 수 있는 중요한 전환점이 될 수 있습니다. 특히 에너지 효율성 측면에서의 강점은 지속 가능한 AI 인프라 구축에도 기여할 것으로 보입니다.
### 기술·메타
- 칩 개발 협력: OpenAI, Broadcom
- 칩 이름: Jalapeño
- 개발 기간: 약 16개월 (2024년 중반 ~ 2025년 11월 테이프아웃)
- 제조 공정: TSMC N3P
- 메모리: HBM4
- TDP: 700W
- 벤치마크 도구: InferenceX
- 프로그래밍 언어: Gluon (Triton 기반)
- 시뮬레이터: chilisim
- AI 설계 지원 도구: Codex
### 향후 전망
잘라페뇨 칩의 성공은 AI 모델 개발 기업들이 자체 칩 개발에 더욱 적극적으로 나서는 계기가 될 것입니다. 이는 엔비디아와 같은 기존 칩 제조사들에게는 큰 도전이 될 수 있으며, AI 칩 시장의 경쟁을 더욱 치열하게 만들 것입니다. 또한, AI 칩 설계에 AI 기술을 활용하는 방식이 보편화되면서 칩 개발 속도와 효율성이 더욱 향상될 것으로 예상됩니다. 장기적으로는 이러한 자체 칩 개발 경쟁이 AI 서비스의 비용 절감과 성능 향상으로 이어져, 일반 사용자들에게 더 나은 AI 경험을 제공할 수 있을 것입니다. 규제 측면에서는 AI 기술의 발전과 함께 하드웨어 독점 및 기술 종속에 대한 논의가 더욱 활발해질 수 있습니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260825/p31#a260825p31)
- 원문 기사: [링크 열기](https://newsletter.semianalysis.com/p/openai-jalapeno-better-than-nvidia)
---
출처: Techmeme ([Original Article](https://newsletter.semianalysis.com/p/openai-jalapeno-better-than-nvidia))
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.