[Techmeme 요약] Baseten, OpenAI와 협력하여 기업 고객의 기존 투자로 오픈 모델 활용 지원
13
설명
Baseten은 OpenAI와의 파트너십을 통해 기업 고객이 기존 OpenAI 투자액을 활용하여 오픈 모델을 더욱 효율적으로 사용할 수 있도록 지원합니다.
이번 협력은 OpenAI의 Codex 및 Responses API 내에서 Baseten이 제공하는 오픈 모델을 네이티브로 통합하는 것을 포함합니다.
이를 통해 기업들은 더 적은 비용으로 더 높은 수준의 AI 성능을 기대할 수 있습니다.
### 배경 설명
최근 인공지능(AI) 분야에서는 다양한 모델을 조합하여 사용하는 '멀티 모델(multi-model)' 전략이 중요해지고 있습니다. 특히 코드 생성과 같은 복잡한 작업을 수행할 때, 특정 작업에 가장 적합한 모델을 선택하여 효율성을 높이는 방식이 주목받고 있습니다. Baseten은 이러한 멀티 모델 워크플로우를 지원하는 데 특화된 기업으로, 고성능 인프라와 개발자 도구를 제공합니다. OpenAI는 코드 생성 AI 모델인 Codex와 같은 강력한 도구를 개발해왔으며, 기업 고객들에게 AI 솔루션을 제공하고 있습니다.
이번 파트너십은 Baseten이 OpenAI의 B2B 마켓플레이스에 참여하는 첫 번째 오픈 모델 추론(inference) 제공업체 중 하나가 된다는 점에서 의미가 있습니다. 이는 OpenAI의 기업 고객들이 기존에 투자한 금액으로 Baseten이 제공하는 다양한 오픈 모델을 활용할 수 있게 됨을 의미합니다. 예를 들어, OpenAI의 Codex 내에서 Baseten의 오픈 모델을 사용하거나, OpenAI의 Responses API를 통해 Baseten의 모델에 접근할 수 있습니다. 이는 기업들이 AI 투자 효율성을 극대화하고, 더 나은 성능의 AI 솔루션을 합리적인 비용으로 도입할 수 있는 기회를 제공합니다.
### 멀티 모델 AI의 부상과 에이전트 코딩
현재 AI 분야에서 가장 널리 채택되고 있는 활용 사례 중 하나는 '에이전트 코딩(agentic coding)'입니다. 이는 AI 에이전트가 코드를 생성하고, 실행하고, 테스트하는 일련의 과정을 자동화하는 것을 의미합니다. OpenAI의 Codex와 GPT 모델은 이러한 코드 생성 워크플로우를 확장하는 데 널리 사용되고 있습니다. Baseten은 이번 협력을 통해 OpenAI 고객들에게 오픈 모델을 제공함으로써, 기업들이 오픈 모델과 클로즈드 모델(closed models)을 넘나들며 에이전트 워크플로우를 최적화하고 각 작업을 가장 적합한 모델로 라우팅할 수 있도록 지원합니다. 이는 AI의 성능, 비용, 지연 시간(latency) 및 용량(capacity) 측면에서 최적의 균형을 찾는 데 도움을 줍니다.
### Baseten의 기술적 강점과 OpenAI 통합
Baseten은 고성능 추론 인프라와 개발자 도구를 제공하여 멀티 모델 시스템을 기술적으로 구현하는 데 필요한 성능, 신뢰성, 유연성을 갖추고 있습니다. 특히 코드 생성 워크플로우는 추론 계층에서 여러 번의 상호작용, 대규모 코드 저장소를 처리하는 긴 프롬프트, 그리고 방대한 컨텍스트 창(context window) 등으로 인해 복잡합니다. Baseten은 이러한 문제를 해결하기 위해 도구부터 엔진 레벨까지 전체 스택에 걸친 성능 최적화를 수행합니다. 또한, Baseten은 20개 이상의 클라우드에 걸쳐 90개 이상의 클러스터를 운영하며 멀티 클라우드(multi-cloud) 용량과 신뢰성을 확보하고 있습니다. 이는 특정 클라우드 제공업체나 지역의 장애 발생 시에도 트래픽을 우회하여 작업을 중단 없이 계속할 수 있도록 합니다. 새로운 오픈 모델이 출시되면 즉시 평가하고 적용할 수 있도록 '제로 데이 모델 액세스(day zero model access)'를 제공하며, Blaxel을 인수하여 각 에이전트에게 자체 샌드박스를 제공하는 등 개발자 경험도 강화했습니다.
### 기업 고객을 위한 거버넌스 및 지원 강화
코드와 같은 민감한 데이터를 다루는 기업 환경을 위해 Baseten은 제로 데이터 보존(Zero Data Retention, ZDR) 정책을 준수하며 미국 기반 인프라에서 추론을 실행합니다. 또한, 특정 지역에 배포를 고정하거나, 세분화된 인증(Authentication, AuthN) 및 권한 부여(Authorization, AuthZ)를 구현하고, 모든 모델, 사용자, 키에 대한 사용량을 추적할 수 있는 기능을 제공하여 높은 수준의 규정 준수 요구사항을 충족합니다. Baseten은 또한 전담 엔지니어링 지원을 통해 고객의 지연 시간 목표에 맞춰 배포를 최적화하고, 적용 연구(applied research)를 통해 모델 튜닝을 지원합니다. 이러한 노력은 OpenAI와의 파트너십을 통해 더욱 강화되어, 기업들이 AI 채택을 가속화하고 AI 지능의 달러당 가치를 높이는 데 기여할 것입니다.
### 가치와 인사이트
이번 Baseten과 OpenAI의 파트너십은 기업들이 AI 모델 선택의 폭을 넓히고, 기존 투자로 더 많은 가치를 창출할 수 있는 길을 열었습니다. 특히 오픈 모델의 접근성을 높여 AI 혁신의 속도를 가속화하고, 비용 효율성을 개선하는 데 중요한 역할을 할 것으로 기대됩니다. 이는 AI 기술이 특정 기업이나 모델에 종속되지 않고, 더 개방적이고 유연한 생태계로 발전하는 중요한 신호입니다.
### 기술·메타
- Baseten
- OpenAI
- Codex
- Responses API
- Multi-model workflows
- Agentic coding
- Open models
- Closed models
- Inference
- Latency
- Capacity
- Zero Data Retention (ZDR)
- Authentication (AuthN)
- Authorization (AuthZ)
### 향후 전망
이번 협력은 AI 시장에서 '오픈 모델'의 중요성을 더욱 부각시킬 것입니다. 기업들은 더 이상 특정 공급업체의 독점적인 모델에 의존하지 않고, 다양한 오픈 소스 모델을 Baseten과 같은 플랫폼을 통해 쉽게 활용할 수 있게 됩니다. 이는 AI 개발 비용을 절감하고, 특정 작업에 최적화된 모델을 신속하게 도입할 수 있게 하여 기업의 경쟁력을 강화할 것입니다. 또한, AI 에이전트의 성능과 효율성이 향상되면서, 코드 생성뿐만 아니라 다양한 산업 분야에서 AI의 활용 범위가 더욱 확대될 것으로 예상됩니다. 규제 측면에서는 오픈 모델의 사용이 증가함에 따라, 데이터 보안 및 프라이버시, 그리고 AI 모델의 투명성에 대한 논의가 더욱 활발해질 수 있습니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/260929/p45#a260929p45)
- 원문 기사: [링크 열기](https://www.baseten.co/blog/baseten-openai-partnership/)
---
출처: Techmeme ([Original Article](https://www.baseten.co/blog/baseten-openai-partnership/))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.