[Lobsters 요약] LLM은 대칭 암호 체계를 무너뜨리지 못한다: Anthropic의 암호 분석 연구와 향후 전망
0
설명
2026년 7월 28일, Anthropic은 LLM(거대 언어 모델)을 활용한 새로운 암호 분석 공격 기법을 발표했습니다. 이 연구는 NIST의 후양자 암호 표준화 프로젝트 후보였던 HAWK 서명 체계에 대한 키 복구 공격과 AES-128에 대한 개선된 키 복구 공격을 포함합니다.
하지만 이러한 공격은 실질적인 위협이 되지 않으며, 기존의 대칭 암호 체계는 LLM에 의해 무너지지 않을 것이라는 주장이 제기되었습니다. 이는 LLM이 암호 분석 분야에서 새로운 돌파구를 마련하기보다는, 기존의 연구 방향을 보완하고 오류를 찾는 데 더 유용할 수 있음을 시사합니다.
본문에서는 LLM이 대칭 암호 체계를 무너뜨리지 못하는 이유와 암호 분석 연구의 미래 방향에 대해 심도 있게 논의합니다.
### 배경 설명
최근 인공지능, 특히 LLM의 발전은 다양한 분야에 큰 영향을 미치고 있으며, 암호학 분야 역시 예외는 아닙니다. Anthropic이 2026년 7월 28일에 발표한 연구는 LLM이 암호 분석에 활용될 수 있음을 보여주는 대표적인 사례입니다. 이 연구는 NIST의 후양자 암호 표준화 프로젝트에 포함되었던 HAWK 서명 체계에 대한 키 복구 공격과, 널리 사용되는 AES-128 암호에 대한 개선된 공격을 제시했습니다. HAWK-512의 보안 수준을 128비트에서 최대 108비트, 잠재적으로는 81비트까지 낮추는 성과를 보였으며, AES-128에 대한 공격은 실질적인 위협은 아니지만 새로운 암호 분석 결과로서 주목받았습니다.
이러한 연구 결과는 LLM이 암호 분석 분야에서 잠재력을 가지고 있음을 시사하지만, 동시에 기존의 대칭 암호 체계의 견고함에 대한 논의를 촉발했습니다. 특히, JP Aumasson은 LLM이 AES, ChaCha, SHA-3와 같은 기존의 확립된 대칭 암호 체계를 무너뜨릴 수 없을 것이라고 주장합니다. 이는 대칭 암호 설계의 본질적인 특성과 수십 년간 축적된 암호 분석 연구의 결과에 기인합니다. LLM의 등장에도 불구하고, 암호학 커뮤니티는 LLM이 기존 암호 체계의 근본적인 취약점을 발견하기보다는, 연구 과정에서의 오류를 찾거나 복잡한 계산의 효율성을 높이는 데 기여할 것으로 기대하고 있습니다. 이러한 배경 속에서 LLM과 암호학의 관계는 단순한 위협이 아닌, 상호 보완적인 발전 가능성을 탐색하는 단계로 나아가고 있습니다.
### Anthropic의 LLM 기반 암호 분석 연구 결과
Anthropic은 2026년 7월 28일, LLM을 활용하여 발견한 새로운 암호 분석 공격 기법을 발표했습니다. 이 중 하나는 NIST의 후양자 암호 표준화 프로젝트의 '추가 디지털 서명' 후보였던 HAWK 서명 체계에 대한 키 복구 공격입니다. 장난감 버전인 HAWK-256(64비트 보안)은 실질적으로 공격 가능하지만, 새로운 공격은 HAWK-512의 보안 수준을 목표치인 128비트에서 최대 108비트, 잠재적으로는 81비트까지 낮추는 의미 있는 성과를 보였습니다. 또한, 7라운드 AES-128에 대한 개선된 키 복구 공격도 발견되었으나, 이는 AES에 위협이 되지 않는 수준입니다. 흥미로운 점은 Mythos라는 LLM이 더 강력한 공격을 발견하지 못했으며, 특히 완전 라운드 AES에 대한 공격은 찾지 못했다는 것입니다. Anthropic은 LLM을 활용한 암호 분석 연구의 지속적인 탐색을 제안하며, 특히 계산적으로 구현하기 어렵지만 LLM이 정확성을 입증할 수 있는 공격 기법에 대한 연구와 공격 기법의 형식화가 중요하다고 강조했습니다.
### LLM이 대칭 암호 체계를 무너뜨리지 못하는 이유
JP Aumasson은 LLM이 기존의 확립된 대칭 암호 체계를 무너뜨릴 수 없을 것이라고 확신합니다. 그 이유는 크게 세 가지로 요약됩니다. 첫째, 대칭 암호의 높은 수준 구조가 안전하다는 점입니다. GCM, CTR 모드와 같은 블록 암호 모드, 스펀지 구성과 같은 해시 함수 모드, 그리고 대부분의 대칭 체계의 핵심인 라운드 기반 구성은 복잡하고 견고하게 설계되어 있습니다. 둘째, 대칭 암호는 수학적 구조가 부족하다는 점입니다. 공개키 암호와 달리, 대칭 암호는 명확한 수학적 구조를 가지지 않아 환원 기반 보안 증명이나 공격에 취약한 지점을 찾기 어렵습니다. 오히려 설계 목표 자체가 어떤 구조나 패턴도 제거하여 계산을 단순한 연산의 무의미한 시퀀스로 보이게 만드는 것입니다. BLAKE3와 같은 해시 함수는 XOR, 모듈러 덧셈, 비트 회전의 긴 시퀀스로 이루어져 있으며, 이를 단순화할 수 있는 구조가 없습니다. 셋째, 암호 분석의 대부분이 차분 암호 분석의 형태를 띠는데, 이는 이미 광범위하게 탐색된 영역이며 LLM이 완전히 새로운 공격 클래스를 발견할 가능성은 낮습니다. 차분 암호 분석은 통계적 편향을 발견하기 위해 실험을 필요로 하며, LLM이 이러한 실험을 설계, 실행, 해석하는 것은 복잡한 과제입니다.
### 암호 분석 연구의 미래와 LLM의 역할
LLM이 직접적으로 대칭 암호 체계를 무너뜨리지는 못하더라도, 암호 분석 연구에 기여할 수 있는 부분은 분명히 존재합니다. JP Aumasson은 LLM이 암호 분석 공격의 복잡성 추정치나 보안 증명의 오류를 찾는 데 유용할 것이라고 예상합니다. 실제로 그는 LLM에게 EUROCRYPT 2026 논문의 보안 증명에서 버그를 찾도록 요청했고, 대부분의 증명에서 오류를 발견했습니다. 이는 LLM이 인간의 창의성이나 계산 능력과는 다른 방식으로 문제를 접근하고, 기존 연구에서 간과되었던 부분을 찾아낼 수 있음을 보여줍니다. 또한, Anthropic은 CryptanalysisBench라는 LLM 벤치마크를 개발하여 AES, ChaCha, BLAKE 등 다양한 알고리즘에 대한 암호 분석 과제를 포함시켰습니다. 이는 LLM의 암호 분석 능력을 체계적으로 평가하고 발전시키는 데 기여할 것입니다. 궁극적으로 LLM은 암호 분석 커뮤니티에 더 통일된 설명 체계와 추상화를 제공하고, 연구자들이 보다 효율적으로 취약점을 탐색하고 검증하는 데 도움을 줄 수 있을 것으로 기대됩니다.
### 가치와 인사이트
이 글은 LLM의 발전이 암호학 분야에 미치는 영향을 객관적으로 분석합니다. LLM이 기존의 대칭 암호 체계를 직접적으로 무너뜨릴 수 없다는 결론은 암호학계의 중요한 통찰을 제공합니다. 이는 대칭 암호 설계의 근본적인 복잡성과 견고함을 재확인시켜 주며, LLM의 역할이 기존 암호 체계를 공격하는 것이 아니라, 암호 분석 연구의 효율성을 높이고 오류를 발견하는 데 있음을 시사합니다. 특히, LLM이 보안 증명의 오류를 찾는 능력은 소프트웨어 개발 및 검증 분야에도 적용될 수 있는 중요한 시사점을 제공합니다. 또한, NIST 후양자 암호 표준화 과정에서 HAWK와 같은 후보 체계에 대한 LLM 기반 공격 연구는 후양자 암호의 안전성 검증에 대한 새로운 접근 방식을 제시합니다.
### 향후 전망
LLM의 발전은 암호 분석 분야에 지속적인 영향을 미칠 것으로 예상됩니다. Anthropic의 연구는 LLM이 암호 분석에서 새로운 가능성을 열고 있음을 보여주지만, 동시에 기존 대칭 암호 체계의 견고함도 재확인시켜 줍니다. 앞으로 LLM은 암호 분석 공격의 복잡성 추정 오류나 보안 증명의 결함을 찾는 데 더욱 중요한 역할을 할 것으로 보입니다. 또한, CryptanalysisBench와 같은 벤치마크의 발전은 LLM의 암호 분석 능력을 체계적으로 평가하고 향상시키는 데 기여할 것입니다. 경쟁 측면에서는 LLM을 활용한 암호 분석 연구가 더욱 활발해질 것이며, 이는 기존의 암호 분석 기법과 LLM 기반 기법 간의 시너지를 창출할 수 있습니다. 제품 측면에서는 LLM이 암호화 도구의 보안성을 강화하거나, 암호화 관련 코드의 취약점을 자동으로 탐지하는 데 활용될 가능성이 있습니다. 커뮤니티 측면에서는 LLM을 활용한 암호 분석 연구 결과 공유 및 협업이 증가할 것으로 예상됩니다.
📝 원문 및 참고
- Source: Lobsters
- 토론(Lobsters): [lobste.rs](https://lobste.rs/s/tstkqk/llms_won_t_break_symmetric_crypto)
- 원문: [링크 열기](https://www.bfswa.blog/p/llms-wont-break-symmetric-crypto)
---
출처: Lobsters · [원문 링크](https://www.bfswa.blog/p/llms-wont-break-symmetric-crypto)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.