[Hacker News 요약] Cognition, SWE-1.7 모델 출시: GPT-4.5 및 Opus 수준의 성능을 훨씬 낮은 비용으로 달성
45
설명
Cognition은 2026년 8월 7일, 자체 개발한 가장 뛰어난 성능의 모델인 SWE-1.7을 공개했습니다.
이 모델은 기존의 비용 대비 성능 한계를 뛰어넘어 최첨단 수준의 지능을 훨씬 저렴한 비용으로 제공합니다.
SWE-1.7은 강화학습(RL) 파이프라인 전반의 개선, 안정적인 학습 환경, 고품질 데이터, 그리고 장기 과제 해결을 위한 새로운 기법들을 통해 탄생했습니다.
### 배경 설명
생성형 AI 분야는 지속적으로 발전하며, 특히 소프트웨어 엔지니어링과 같은 복잡하고 장기적인 과제를 수행할 수 있는 에이전트 개발에 대한 관심이 높아지고 있습니다. 기존의 대규모 언어 모델(LLM)들은 특정 작업에서는 뛰어난 성능을 보였지만, 복잡한 코드 생성, 디버깅, 장기적인 프로젝트 관리와 같은 실제 소프트웨어 개발 프로세스 전반을 자동화하는 데는 한계가 있었습니다. Cognition은 이러한 문제를 해결하기 위해 'Devin'과 같은 에이전트 기반의 소프트웨어 엔지니어링 솔루션을 개발해 왔으며, SWE-1.7은 이러한 노력의 최신 결과물입니다. SWE-1.7은 Kimi K2.7 모델을 기반으로 추가적인 강화학습 후처리 과정을 거쳐 개발되었으며, 이는 기존의 '후처리 학습 한계'라는 개념에 도전하며 강화학습이 모델의 능력을 예상보다 훨씬 더 크게 향상시킬 수 있음을 시사합니다. 특히, 1000 TPS(Transactions Per Second)의 처리량으로 Cerebras를 통해 Devin의 웹, 데스크톱, CLI 버전에서 사용 가능하게 된 점은 실질적인 적용 가능성을 높입니다.
### SWE-1.7의 벤치마크 성능
SWE-1.7은 다양한 에이전트 코딩 벤치마크에서 인상적인 성능을 보여주었습니다. FrontierCode 1.1 메인 벤치마크에서는 42.3%의 통과율을 기록했으며, 이는 Kimi K2.7(30.1%)보다 월등히 높은 수치입니다. 또한, GPT-5.5(43.0%) 및 Opus 4.8(46.5%)과 같은 최첨단 모델과도 경쟁할 수 있는 수준입니다. Terminal-Bench 2.1에서는 81.5%의 통과율을 달성하여, Opus 4.7(86.9%)에 이어 두 번째로 높은 성능을 보였습니다. SWE-Bench Multilingual에서도 77.8%의 통과율을 기록하며, Opus 4.8(84.4%) 다음으로 높은 성능을 나타냈습니다. 이러한 결과는 SWE-1.7이 복잡한 코딩 과제를 해결하는 데 있어 상당한 진전을 이루었음을 보여줍니다.
### 안정적인 학습 및 멀티 클러스터 훈련 인프라
SWE-1.7 학습의 핵심은 장기 강화학습 과정에서의 안정성 확보와 확장성이었습니다. 연구팀은 엔트로피 붕괴와 수치적 드리프트로 인한 학습 불안정 문제를 해결하기 위해 'top-p 샘플링'과 '샘플링 분포 재현(sampling distribution replay)' 기법을 도입했습니다. 이를 통해 학습 과정 전반에 걸쳐 모델의 엔트로피를 일정하게 유지하고, 학습-추론 간의 불일치를 최소화했습니다. 또한, Cognition은 단일 대규모 클러스터에 의존하는 대신, 세 대륙에 걸쳐 분산된 여러 개의 소규모 클러스터를 활용하는 멀티 클러스터 훈련 아키텍처를 구축했습니다. 이는 각 클러스터 간의 가중치 델타를 압축하여 전송하고, 클라우드 객체 저장소를 통해 단일 진실 공급원으로 관리함으로써, 1조 개 파라미터 모델의 가중치 업데이트를 1~2분 내에 완료할 수 있게 했습니다. 이러한 분산 훈련 방식은 하드웨어 장애 발생 시에도 전체 학습 과정을 중단시키지 않고 신속하게 복구할 수 있는 높은 내결함성을 제공합니다.
### 장기 과제 해결을 위한 자기 요약 및 데이터 품질 관리
SWE-1.7은 특히 장기적이고 비동기적인 소프트웨어 엔지니어링 과제에 최적화되었습니다. 이를 위해 모델은 자체 작업 상태를 요약하고 해당 요약에서 작업을 재개하는 '자기 요약(self-compaction)' 기능을 학습했습니다. 이는 모델이 컨텍스트 창의 한계를 넘어서는 긴 작업을 수행할 수 있도록 지원합니다. 또한, '교대 길이 페널티(alternating length penalty)' 기법을 사용하여, 모델이 불필요하게 긴 응답을 생성하는 것을 방지하면서도 어려운 과제에 대한 심층적인 추론 능력을 유지하도록 유도했습니다. 데이터 품질 관리 측면에서는, 자동화된 실행 테스트를 통해 각 작업의 학습 신호를 평가하고, 잘못된 솔루션을 수락하거나 유효한 솔루션을 거부하는 '검증기 오류(verifier quality)'를 최소화했습니다. 또한, 모델이 학습 신호를 충분히 얻을 수 있도록 낮은 성공률을 가진 데이터셋을 큐레이션하고, 부정행위 탐지 및 방지 메커니즘을 강화하여 모델의 정렬성과 신뢰성을 높였습니다.
### 가치와 인사이트
SWE-1.7의 출시는 소프트웨어 엔지니어링 분야에서 AI 에이전트의 실질적인 효용성을 한 단계 끌어올렸다는 점에서 큰 의미를 갖습니다. 기존의 LLM들이 코드 생성이나 특정 문제 해결에 국한되었던 것과 달리, SWE-1.7은 장기적인 프로젝트 관리, 복잡한 디버깅, 코드베이스 탐색 등 실제 개발 프로세스와 유사한 작업을 수행할 수 있는 능력을 보여줍니다. 특히, GPT-5.5 및 Opus와 같은 최첨단 모델과 동등하거나 그 이상의 성능을 훨씬 낮은 비용으로 달성했다는 점은, AI 기술의 접근성을 높이고 더 많은 기업과 개발자가 AI 기반의 소프트웨어 개발 도구를 활용할 수 있게 할 잠재력을 시사합니다. 또한, 멀티 클러스터 훈련, 자기 요약, 교대 길이 페널티와 같은 기술적 혁신은 대규모 AI 모델 개발 및 최적화에 대한 새로운 방향을 제시합니다.
### 기술·메타
- SWE-1.7 (Kimi K2.7 base)
- Devin (Web, Desktop, CLI)
- Cerebras (1000 TPS)
- Reinforcement Learning (RL) pipeline
- FrontierCode 1.1, Terminal-Bench 2.1, SWE-Bench Multilingual benchmarks
- Top-p sampling
- Sampling distribution replay
- Multi-cluster training (three continents)
- Cloud object storage
- NVIDIA Dynamo
- Self-compaction
- Alternating length penalty
- Muon optimizer
### 향후 전망
SWE-1.7의 성공은 향후 AI 기반 소프트웨어 엔지니어링 도구의 발전에 중요한 이정표가 될 것입니다. Cognition은 SWE-1.7을 Devin 플랫폼에 통합하여 사용자들에게 제공하고 있으며, 이는 실제 개발 환경에서의 피드백을 통해 모델을 더욱 개선할 기회를 제공합니다. 경쟁사들 역시 유사한 에이전트 개발에 박차를 가할 것으로 예상되며, 이는 AI 에이전트의 기능, 효율성, 그리고 안전성에 대한 경쟁을 심화시킬 것입니다. 향후에는 SWE-1.7과 같은 모델들이 더욱 복잡한 시스템 설계, 코드 최적화, 그리고 자동화된 테스트 생성 등 소프트웨어 개발 라이프사이클 전반에 걸쳐 핵심적인 역할을 수행할 것으로 기대됩니다. 또한, 이러한 모델들의 학습 데이터, 알고리즘, 그리고 평가 방법론에 대한 연구가 활발히 진행될 것이며, 이는 AI의 윤리적 사용과 신뢰성 확보에도 중요한 영향을 미칠 것입니다.
📝 원문 및 참고
- Source: Hacker News
- 토론(HN): [news.ycombinator.com](https://news.ycombinator.com/item?id=48833866)
- 원문: [링크 열기](https://cognition.com/blog/swe-1-7)
---
출처: Hacker News · [원문 링크](https://cognition.com/blog/swe-1-7)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.