[Hacker News 요약] Claude, AI 모델을 활용한 암호학적 취약점 발견 연구
0
설명
Anthropic은 Claude Mythos Preview를 활용하여 암호화 알고리즘의 수학적 결함을 발견하는 새로운 방법을 연구했습니다.
이 연구는 HAWK 디지털 서명 방식과 AES 암호화 방식의 취약점을 발견했으며, 이는 AI가 암호학 분야의 보안 강화에 기여할 수 있음을 시사합니다.
발견된 취약점은 현재 상용 시스템에 영향을 미치지 않지만, 미래의 암호 시스템 설계에 중요한 통찰을 제공합니다.
### 배경 설명
디지털 보안의 근간을 이루는 암호화 알고리즘은 온라인 데이터의 개인 정보 보호와 무결성을 보장하는 데 필수적입니다. 웹사이트 접속 시 인증을 위한 디지털 서명 방식부터, 통신 데이터 암호화를 위한 대칭키 암호 방식까지 다양한 알고리즘이 사용됩니다. 이러한 암호 시스템에 결함이 발생할 경우, 수십억 명의 사용자 데이터가 사이버 범죄에 노출될 위험이 있습니다. 특히, 양자 컴퓨터의 발전은 기존 암호 체계를 위협하며, 이에 대비하기 위한 새로운 암호 기술 표준화 노력이 진행 중입니다. NIST(미국 국립표준기술연구소)는 2022년부터 양자 컴퓨터에도 안전한 추가 디지털 서명 방식에 대한 공모를 진행했으며, HAWK는 이 공모의 3라운드 후보 중 하나입니다. 또한, 2001년 NIST에 의해 채택된 AES(Advanced Encryption Standard)는 가장 널리 사용되는 대칭키 암호 방식으로, 그 견고성을 검증하기 위해 약화된 변형에 대한 연구가 꾸준히 이루어져 왔습니다.
이러한 배경 속에서, Anthropic은 최첨단 AI 모델인 Claude Mythos Preview를 활용하여 기존의 인간 전문가 검토로는 발견하기 어려웠던 암호 알고리즘 자체의 수학적 결함을 탐색하는 연구를 수행했습니다. 이는 AI가 단순히 소프트웨어 구현상의 취약점을 찾는 것을 넘어, 암호학의 근본적인 설계 원리까지 파고들어 보안을 강화할 수 있는 잠재력을 보여줍니다.
### HAWK 디지털 서명 방식에 대한 개선된 공격 발견
Anthropic 연구팀은 Claude Mythos Preview를 사용하여 HAWK라는 양자내성 디지털 서명 방식에 대한 개선된 공격을 발견했습니다. HAWK는 양자 컴퓨터의 위협에 대비하기 위해 NIST가 진행 중인 차세대 암호 표준화 과정의 3라운드 후보 중 하나입니다. 2년간의 전문가 검토를 거쳤음에도 불구하고, Mythos Preview는 단 60시간의 작업만으로 HAWK의 기존 최적 공격을 크게 개선하여 '효과적인 키 강도'를 절반으로 줄였습니다. 이는 HAWK의 보안 기반이 되는 격자 동형 문제(Lattice Isomorphism Problem)에서 이전에 알려지지 않았던 비자명 자기동형성(nontrivial automorphism)을 발견함으로써 가능해졌습니다. 이 발견은 HAWK의 제안된 키 크기가 원래 제안된 것보다 훨씬 약하다는 것을 의미하며, 예를 들어 HAWK-256의 경우 완전한 키 복구 공격 비용이 2^64에서 2^38로 감소했습니다. 이 공격은 HAWK에 특화된 더 빠른 지수 시간 공격이며, 다른 NIST 양자내성 서명 후보나 격자 기반 암호 전반에 영향을 미치지는 않습니다. 이 연구는 AI가 암호 표준화 과정에서 잠재적 약점을 조기에 발견하는 데 강력한 도구가 될 수 있음을 시사합니다.
### 축소 라운드 AES에 대한 새로운 공격 발견
두 번째 주요 연구 결과는 2001년 NIST에 의해 채택된 AES(Advanced Encryption Standard)의 약화된 변형에 대한 새로운 공격 발견입니다. 연구팀은 Claude Mythos Preview를 사용하여 10라운드 AES 중 7라운드만 적용된 변형에 대한 공격을 개선했습니다. 이 연구는 암호학 분야에서 더 단순화된 변형을 연구하여 전체 암호에 대한 공격 기법을 이해하고 보안 수준을 추정하는 일반적인 접근 방식에 기반합니다. Mythos Preview는 기존의 최적 공격 기법인 'meet-in-the-middle' 공격을 개선하기 위해 'Möbius Bridge'라는 정교한 지문 인식 알고리즘을 개발했습니다. 이 알고리즘은 이전 공격에서 필요했던 256가지 값의 열거 및 조회를 줄여 공격 속도를 200~800배까지 향상시켰습니다. 이 공격은 선택 평문(chosen plaintext) 위협 모델 하에서 작동하며, 비록 현재로서는 실제 시스템에 영향을 미치지 않지만, AES의 견고성에 대한 이해를 높이고 향후 암호 설계에 대한 통찰을 제공합니다. 이 발견은 Claude가 인간 전문가의 개입 없이 거의 완전히 자율적으로 이루어졌으며, 이는 AI의 연구 능력 범위를 보여줍니다.
### AI 기반 암호 분석 벤치마크 및 추가 연구
Anthropic은 LLM(대규모 언어 모델)의 암호 분석 능력을 연구하기 위해 ETH Zurich, Tel Aviv University, University of Haifa의 학자들과 협력하여 'CryptanalysisBench'라는 벤치마크를 구축했습니다. 이 벤치마크는 다양한 암호화 알고리즘을 포함하고 있어 LLM의 성능을 평가하기 용이합니다. 또한, 연구팀은 Claude Mythos Preview를 사용하여 경량 암호화 알고리즘인 LEA(Lightweight Encryption Algorithm)의 13라운드 변형에 대한 실용적인 공격을 발견했습니다. 이 공격은 2^30개 미만의 암호화된 평문으로 키를 복구할 수 있으며, 현대 데스크톱 컴퓨터에서 한 시간 이내에 실행됩니다. 이는 ISO/IEC 29192-2:2019와 같은 국제 표준에 포함된 알고리즘에 대한 잠재적 취약점을 시사합니다. 더불어, Serpent-128 암호의 6라운드 변형에 대한 실용적인 공격과 Salsa20, Poseidon, SHA-1 해시 함수에 대한 제한적인 개선도 발견되었습니다. 이러한 연구들은 AI가 암호학 분야에서 지속적으로 새로운 취약점을 발견하고, 기존 암호 시스템의 보안을 강화하는 데 기여할 수 있음을 보여줍니다.
### 가치와 인사이트
이 연구는 최첨단 AI 모델이 단순한 코드 취약점 탐색을 넘어, 암호화 알고리즘 자체의 수학적 결함을 발견할 수 있는 능력을 입증했습니다. 특히 HAWK와 AES의 약화된 변형에 대한 발견은 AI가 기존의 인간 전문가 검토를 보완하거나 능가하는 수준의 분석을 수행할 수 있음을 보여줍니다. 이는 향후 암호 표준화 과정에서 AI를 활용하여 더욱 강력하고 안전한 암호 시스템을 설계하는 데 중요한 역할을 할 수 있음을 시사합니다. 또한, CryptanalysisBench와 같은 벤치마크의 개발은 LLM의 암호 분석 능력을 체계적으로 평가하고 발전시키는 데 기여할 것입니다. AI가 발견한 취약점의 검증 및 관리에 대한 새로운 접근 방식이 필요하며, 이는 사이버 보안 커뮤니티 전반에 걸쳐 논의되어야 할 중요한 과제입니다.
### 기술·메타
- Claude Mythos Preview
- HAWK (digital signature scheme)
- AES (Advanced Encryption Standard)
- NIST (National Institute of Standards and Technology)
- CryptanalysisBench
- LEA (Lightweight Encryption Algorithm)
- Serpent-128
- Salsa20
- Poseidon hash function
- SHA-1 hash function
### 향후 전망
AI 모델의 발전은 암호학 연구의 패러다임을 변화시킬 잠재력을 가지고 있습니다. Claude와 같은 AI는 앞으로 더 복잡하고 널리 사용되는 암호 시스템에 대한 새로운 공격을 발견할 가능성이 높습니다. 이는 암호 커뮤니티가 AI를 활용하여 알고리즘의 보안성을 더욱 철저히 검증하고, 궁극적으로는 전 세계의 디지털 보안을 강화하는 데 기여할 것으로 예상됩니다. 경쟁 측면에서는, AI 기반 암호 분석 도구의 개발이 가속화될 것이며, 이는 보안 연구의 속도와 깊이를 증진시킬 것입니다. 또한, AI가 발견한 취약점의 책임 있는 공개 및 관리 방안에 대한 논의가 더욱 활발해질 것이며, 이는 학계, 정부, 산업계 간의 협력을 촉진할 것입니다. 장기적으로는 AI가 차세대 암호 시스템 설계에 적극적으로 참여하여 더욱 강력하고 회복력 있는 보안 솔루션을 만드는 데 기여할 것으로 기대됩니다.
📝 원문 및 참고
- Source: Hacker News
- 토론(HN): [news.ycombinator.com](https://news.ycombinator.com/item?id=49087091)
- 원문: [링크 열기](https://www.anthropic.com/research/discovering-cryptographic-weaknesses)
---
출처: Hacker News · [원문 링크](https://www.anthropic.com/research/discovering-cryptographic-weaknesses)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.