[Hacker News 요약] OpenAI 내부 저장소 침해, libheif 취약점과 SSO 설정 오류 연계 공격
21
설명
2026년 7월 25일, Hacktron AI 연구팀은 OpenAI의 커뮤니티 포럼에서 발견된 libheif 라이브러리의 힙 버퍼 오버플로우 취약점과 싱글 사인온(SSO) 설정 오류를 연계하여 OpenAI 직원 계정을 탈취하고 내부 저장소에 접근하는 데 성공했습니다.
이 공격은 72시간 이내에 완료되었으며, 연구팀은 즉시 OpenAI와 Discourse에 취약점을 보고하고 협력하여 패치를 진행했습니다.
OpenAI는 이 사건에 대해 6,500달러의 포상금을 지급했으며, 연구팀은 이 경험을 통해 AI 기반 보안 연구의 가능성과 중요성을 강조했습니다.
### 배경 설명
이번 사건은 생성형 AI 분야를 선도하는 OpenAI의 보안 취약점을 드러냈다는 점에서 큰 주목을 받았습니다. OpenAI는 ChatGPT, Codex 등 다양한 AI 모델과 서비스를 제공하며, 이들 서비스는 방대한 양의 사용자 데이터와 내부 코드를 다루고 있습니다. 따라서 이러한 시스템의 보안은 매우 중요하며, 작은 취약점 하나가 심각한 결과를 초래할 수 있습니다.
연구팀이 발견한 libheif 라이브러리의 힙 버퍼 오버플로우 취약점은 이미지 디코딩 과정에서 발생하며, 공격자가 원격으로 코드를 실행할 수 있게 합니다. libheif는 HEIF, HEIC, AVIF와 같은 이미지 형식을 처리하는 데 널리 사용되는 라이브러리로, Slack, Meta, GitHub Enterprise 등 다양한 소프트웨어 및 프레임워크에서 사용되고 있습니다. 이 라이브러리의 보안 취약점은 광범위한 시스템에 영향을 미칠 수 있음을 시사합니다.
또한, OpenAI의 SSO 설정 오류는 탈취된 계정을 통해 내부 저장소에 접근할 수 있는 경로를 제공했습니다. 이는 단순히 개별 서비스의 취약점을 넘어, 서비스 간의 연동 및 인증 메커니즘의 중요성을 다시 한번 강조합니다. 특히, OpenAI의 경우 여러 서비스가 통합되어 있어 하나의 취약점이 연쇄적인 보안 사고로 이어질 가능성이 높습니다.
### 취약점 발견 및 공격 과정
Hacktron AI 연구팀은 2026년 7월 23일부터 OpenAI의 커뮤니티 포럼(community.openai.com)에서 사용되는 Discourse의 이미지 업로드 파이프라인을 분석했습니다. 이 과정에서 HEIC 및 HEIF 파일이 ImageMagick의 magick 명령어로 처리되는 것을 확인했으며, 이는 libheif 파서가 직접적으로 공격자 제어 파일에 노출되는 결과를 초래했습니다. Discourse의 Docker 이미지에 포함된 libheif 버전 1.19.7에는 보안 패치가 적용되지 않은 상태였습니다. 연구팀은 Opus 4.8을 사용하여 7월 24일, ASLR이 비활성화된 환경에서 코드 실행 익스플로잇을 개발했습니다. 이후 Anthropic의 Claude Opus 5 출시를 활용하여 7월 25일 오전 6시까지 ASLR이 활성화된 환경에서도 작동하는 ARM64 및 x86-64 익스플로잇을 성공적으로 개발했습니다. 이를 통해 OpenAI의 Discourse 인스턴스에서 원격 코드 실행(RCE)을 달성하고, OpenAI 직원 계정의 ChatGPT 및 Codex 접근 권한을 탈취했습니다. 탈취된 계정의 Codex를 통해 OpenAI의 내부 모노리포(openai/openai)에 PR #1186742을 생성하여 접근 권한을 입증한 후, 추가적인 테스트를 중단했습니다.
### SSO 설정 오류와 연계 공격의 파급력
이번 공격의 핵심은 libheif 취약점을 통한 초기 침투와 OpenAI의 SSO 설정 오류를 결합하여 내부 저장소에 접근했다는 점입니다. 연구팀은 탈취한 OpenAI 직원 계정의 Codex가 OpenAI의 GitHub 조직과 연결되어 있음을 확인했습니다. 이를 통해 내부 저장소에 접근할 수 있었으며, 이는 OpenAI의 다양한 서비스가 통합된 SSO 시스템의 잠재적 위험성을 보여줍니다. 연구팀은 Discourse 포럼 침해가 단순히 포럼 자체의 문제가 아니라, OpenAI의 SSO 시스템을 통해 ChatGPT 및 Codex 계정 탈취로 이어질 수 있음을 강조했습니다. 즉, OpenAI SSO를 사용하는 다른 서드파티 서비스가 침해당했더라도 동일한 결과가 발생할 수 있다는 것입니다. 이는 OpenAI의 보안 아키텍처 전반에 대한 재검토가 필요함을 시사합니다.
### AI 기반 보안 연구의 발전과 시사점
연구팀은 이번 공격 과정에서 AI 모델의 발전이 보안 연구에 미치는 영향을 명확히 보여주었습니다. Opus 4.8로는 ASLR이 활성화된 환경에서 익스플로잇 개발에 어려움을 겪었으나, Opus 5 출시 후 몇 시간 만에 동일한 문제를 해결했습니다. 또한, GPT-5.6 Sol 모델을 사용했을 때는 대상 시스템에 대한 사전 정보 없이도 취약점을 악용하는 데 성공했습니다. AI 모델은 이미지 업로드부터 메모리 손상, 쉘 획득, 권한 상승, 측면 이동, 방어 우회까지 다양한 단계를 자동화하고 가속화했습니다. 이는 과거 소수의 전문가와 많은 시간이 소요되었던 작업이 이제는 소규모 팀과 단기간에 가능해졌음을 의미합니다. 연구팀은 이러한 AI의 발전이 기존의 보안 모델을 재정의해야 함을 주장하며, 공격 경제학을 고려한 현실적인 위협 모델 구축의 필요성을 강조했습니다. 2026년 9월 13일 발표된 이 연구는 AI가 보안 연구의 패러다임을 어떻게 변화시키고 있는지 보여주는 중요한 사례입니다.
### 가치와 인사이트
이번 사건은 AI 기반 보안 연구의 급격한 발전과 함께, AI를 활용한 공격의 위협이 현실화되고 있음을 보여줍니다. libheif와 같은 널리 사용되는 라이브러리의 취약점과 SSO 설정 오류가 결합될 경우, OpenAI와 같은 대규모 AI 기업조차 심각한 보안 위협에 노출될 수 있음을 시사합니다. 또한, AI 모델이 복잡한 취약점 분석 및 익스플로잇 개발 과정을 자동화하고 가속화함으로써, 공격자의 진입 장벽을 낮추고 공격의 효율성을 극대화할 수 있다는 점은 보안 업계에 큰 경종을 울립니다. 기업들은 더 이상 '복잡성'에 기반한 보안에 의존해서는 안 되며, AI 시대에 맞는 새로운 위협 모델과 방어 전략을 수립해야 합니다. 특히, AI 모델의 발전 속도를 고려할 때, 보안 연구 및 대응 또한 AI 기술을 적극적으로 도입하여 속도를 높여야 할 것입니다.
### 기술·메타
- libheif (v1.19.7 등 취약 버전)
- ImageMagick
- Discourse (v1.19.7 libheif 의존)
- OpenAI SSO
- ChatGPT / Codex
- GitHub
- Claude Opus 5 (AI 모델)
- Opus 4.8 (AI 모델)
- GPT-5.6 Sol (AI 모델)
### 향후 전망
libheif와 같은 이미지 처리 라이브러리의 취약점은 앞으로도 지속적으로 발견될 가능성이 높으며, 이는 다양한 서비스에 영향을 미칠 수 있습니다. OpenAI의 경우, 이번 사건을 계기로 SSO 시스템을 포함한 전반적인 보안 아키텍처를 강화하고, 외부 서비스와의 연동 시 보안 검증 절차를 더욱 철저히 할 것으로 예상됩니다. 또한, AI 기반 보안 연구는 더욱 활발해질 것이며, 이는 방어 측면에서도 AI 기술의 도입을 가속화할 것입니다. Hacktron AI와 같은 연구팀들은 지속적으로 새로운 취약점을 발굴하고 AI를 활용한 공격 및 방어 기술을 발전시켜 나갈 것입니다. 경쟁사들 역시 AI를 활용한 보안 솔루션 개발에 박차를 가할 것이며, 이는 보안 시장의 기술 격차를 더욱 벌릴 수 있습니다. 커뮤니티 차원에서는 AI를 활용한 보안 연구 결과 공유 및 협력이 더욱 중요해질 것입니다.
📝 원문 및 참고
- Source: Hacker News
- 토론(HN): [news.ycombinator.com](https://news.ycombinator.com/item?id=49749656)
- 원문: [링크 열기](https://www.hacktron.ai/blog/hacking-openai)
---
출처: Hacker News · [원문 링크](https://www.hacktron.ai/blog/hacking-openai)
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.