[Lobsters 요약] SQLite 취약점 보고서의 신뢰성 문제: LLM 생성 슬롭 의혹
0
설명
2026년 7월 30일, JFrog Security Research는 SQLite 관련 다수의 CVE(Common Vulnerabilities and Exposures) 보고서에 대한 심층 분석 결과를 발표했습니다. 이 보고서들은 NVD(National Vulnerability Database)와 CISA(Cybersecurity and Infrastructure Security Agency)에 의해 'Critical' 등급으로 분류되었으나, JFrog 연구원들의 검증 결과 상당수가 실제 존재하지 않거나 잘못된 정보를 포함하고 있는 것으로 밝혀졌습니다.
특히, 이 CVE들은 LLM(Large Language Model)에 의해 생성된 '슬롭(slop)'일 가능성이 제기되었으며, 이는 자동화된 취약점 보고 시스템의 신뢰성에 대한 심각한 의문을 제기합니다.
본문에서는 이러한 허위 CVE가 어떻게 생성되고 유통될 수 있는지, 그리고 실제 SQLite 버전과의 비교 분석을 통해 각 CVE의 문제점을 상세히 파헤칩니다.
### 배경 설명
최근 몇 년간 AI 기술의 발전은 다양한 분야에서 생산성을 향상시키고 있지만, 동시에 잘못된 정보나 허위 콘텐츠를 생성하는 데에도 악용될 수 있다는 우려가 커지고 있습니다. 특히 사이버 보안 분야에서는 취약점 정보가 매우 중요하기 때문에, AI가 생성한 허위 취약점 정보는 심각한 문제를 야기할 수 있습니다.
SQLite는 전 세계적으로 가장 널리 사용되는 임베디드 데이터베이스 엔진 중 하나로, 모바일 애플리케이션부터 데스크톱 소프트웨어, 웹 서버에 이르기까지 광범위하게 활용됩니다. 따라서 SQLite의 보안 취약점은 수많은 시스템에 직접적인 영향을 미칠 수 있습니다.
이 사건은 GitHub에 새롭게 생성된 저장소(programmervuln/cveadvisory-)에서 SQLite 관련 다수의 취약점 보고서가 게시되면서 시작되었습니다. 이 보고서들은 NVD에서 'Critical' 등급으로 빠르게 플래그되었고 CISA의 ADP(Authorized Data Publisher)도 이를 인정했습니다. 그러나 JFrog Security Research 팀이 자체 검증을 수행한 결과, 보고서에 명시된 코드나 로직이 해당 SQLite 버전에 존재하지 않거나, PoC(Proof of Concept) 페이로드가 작동하지 않는 등 심각한 결함이 발견되었습니다. 이는 단순히 기술적인 오류를 넘어, AI가 생성한 허위 정보가 보안 생태계에 유입될 수 있음을 시사하는 중요한 사례입니다.
### 허위 CVE 보고서의 발생 및 초기 평가
2026년 7월 초, GitHub에 'programmervuln/cveadvisory-'라는 이름의 저장소가 생성되었습니다. 이 저장소는 SQLite와 관련된 다수의 취약점 보고서를 게시했으며, 이 중 일부는 NVD에서 'Critical' 등급으로 신속하게 분류되었습니다. CISA의 ADP 또한 이러한 분류에 동의했습니다. 그러나 JFrog Security Research의 Afek Berger는 이 보고서들의 신뢰성에 의문을 제기하고 자체 검증에 착수했습니다. 검증 결과, 보고서에 인용된 코드가 실제 해당 SQLite 버전(예: 3.41.0)에 존재하지 않거나, 언급된 로직이 관련 없는 것으로 확인되었습니다. 또한, 제시된 PoC 페이로드는 어떠한 충돌도 유발하지 못했습니다. SQLite의 공식 취약점 페이지(sqlite.org/cves.html)에도 해당 CVE들이 등재되지 않은 점은 이러한 의혹을 더욱 증폭시켰습니다. JFrog 팀은 Gptzero와 같은 도구를 사용하여 테스트한 결과, 이들 보고서가 AI에 의해 생성된 콘텐츠일 가능성이 높다고 판단했습니다. 특히, 모든 보고서를 하나의 파일로 결합했을 때 AI 생성 콘텐츠 경고가 트리거되었습니다.
### CVE-2026-51302 및 CVE-2026-51303 분석: 존재하지 않는 기능과 허위 패치
CVE-2026-51302는 SQLite 3.41.0 버전에서 `exprComputeOperands()` 함수의 `UAF(Use-After-Free)`를 주장했습니다. 그러나 JFrog 연구원들은 해당 함수가 2025년 중반에야 추가되었으며, `sqlite3ReleaseTempReg()` 함수는 힙 할당 해제와 관련이 없어 UAF가 발생할 수 없음을 확인했습니다. PoC 테스트 역시 버그가 존재하지 않아 아무런 충돌 없이 성공적으로 실행되었습니다. Red Hat은 초기 CVSS 점수를 10.0으로 부여했으나, 이후 7.6으로 하향 조정되었습니다.
CVE-2026-51303은 `ExprListDelete()` 함수가 자식 노드를 해제할 때 부모 구조체의 백레퍼런스를 정리하지 못하며, 이는 버전 3.51.3에서 패치되었다고 주장했습니다. 그러나 JFrog 팀은 `Expr`, `Select`, `Window` 구조체에 그러한 백레퍼런스 포인터의 존재 증거가 없음을 발견했습니다. 더욱이, 버전 3.51.2와 3.51.3 간의 코드 변경 사항을 비교했을 때 `src/expr.c` 파일에는 어떠한 수정도 이루어지지 않았습니다. 즉, 패치는 완전히 조작된 것이었습니다. 제시된 PoC는 유효하지 않은 SQL 구문으로 파서 단계에서 실패했습니다.
### 기타 CVE 분석 및 AI 슬롭 CVE의 발생 메커니즘
CVE-2026-51300은 `sqlite3ExprDelete()` 함수에서 UAF가 발생한다고 주장했으나, 인용된 라인 번호(1012, 1026)는 주석이나 메모리 할당 호출에 불과했으며 실제 삭제 로직과는 무관했습니다. 또한, 해당 함수는 스코프의 끝에서 호출되어 포인터 재사용이 불가능하므로 UAF가 발생할 수 없었습니다. CVE-2026-51297은 `jsonParseFree()` 함수가 `jsonBlobEdit()` 함수에 의해 나중에 접근되는 댕글링 참조를 남긴다고 주장했으나, `jsonBlobEdit()` 함수는 보고된 버전(3.41.0)에 존재하지 않았습니다. CVE-2026-51296은 `json.c` 파일의 존재하지 않는 라인 번호를 인용했으며, 실제 함수 구현은 훨씬 앞부분에 있었습니다. CVE-2026-51304는 `sqlite3ExprListDelete(pOrderBy)`가 정렬 목록을 해제한 후 후속 코드가 `pOrderBy->nExpr`을 읽는다고 주장했으나, 해당 함수 시그니처가 존재하지 않았고 SQLite는 삭제 직후 포인터를 null로 처리하여 이러한 문제를 방지합니다.
이러한 AI 슬롭 CVE가 발생하는 근본적인 원인은 MITRE의 공개 CVE 제출 양식에 실질적인 신원 확인 절차가 부족하기 때문입니다. 과거 NIST는 NVD를 통해 수동으로 CVE를 분석하고 검증하는 역할을 했으나, 2024년 2월부터 대량의 보고서 급증으로 인해 심층 분석이 중단되었습니다. CISA 및 기타 ADP가 역할을 분담하려 했으나, 현재 시스템은 파편화되어 있으며 Proof-of-Concept(PoC)나 버그 재현을 요구하는 단계가 없어, 그럴듯하게 들리는 가짜 보고서도 시스템을 통과할 수 있습니다.
### 가치와 인사이트
이 사건은 자동화된 취약점 정보 수집 및 검증 시스템의 취약점을 명확히 보여줍니다. AI가 생성한 허위 CVE는 보안 팀이 존재하지 않는 위협을 조사하고 패치하는 데 귀중한 시간과 자원을 낭비하게 만들 수 있습니다. 특히 AI 기반의 취약점 관리 및 자동화 도구를 사용하는 환경에서는, AI 에이전트가 존재하지 않는 함수를 수정하거나 잘못된 패치를 생성하는 등 완전히 잘못된 방향으로 나아갈 위험이 있습니다. 이는 궁극적으로 실제 보안 위험을 간과하게 만들고 시스템의 전반적인 보안 태세를 약화시킬 수 있습니다. 따라서 새로운 CVE, 특히 출처가 불분명하거나 검증되지 않은 소스에서 나온 'Critical' 등급의 CVE에 대해서는 더욱 신중한 접근과 철저한 검증이 필수적입니다.
### 기술·메타
- SQLite 버전: 3.41.0, 3.51.2, 3.51.3
- CVE 보고서 발행 GitHub 저장소: programmervuln/cveadvisory-
- 분석 도구: Gptzero
- 검증 방법론: 소스 코드 검사, 격리된 환경 빌드, PoC 실행, NVD & 메타데이터 감사
- 관련 기관: NVD, CISA, Red Hat, MITRE
### 향후 전망
이번 사건은 취약점 데이터베이스의 신뢰성을 유지하기 위한 시스템 개선의 필요성을 강조합니다. 향후 MITRE, NVD, CISA 등 관련 기관들은 CVE 제출 및 검증 프로세스에 대한 강화된 절차를 도입해야 할 것입니다. 여기에는 제출자의 신원 확인 강화, AI 생성 콘텐츠 탐지 기술 도입, 그리고 PoC 제출 의무화 등이 포함될 수 있습니다. 또한, 오픈소스 프로젝트 커뮤니티는 자체적으로 취약점 보고 및 검증 프로세스를 더욱 견고하게 만들어야 합니다. SQLite와 같은 핵심 오픈소스 프로젝트의 경우, 커뮤니티 기반의 철저한 검증 절차는 이러한 허위 정보의 유입을 막는 중요한 방어선이 될 것입니다. JFrog와 같은 보안 연구 기관의 적극적인 분석 및 보고는 이러한 문제점을 조명하고 개선을 촉구하는 데 중요한 역할을 할 것입니다.
📝 원문 및 참고
- Source: Lobsters
- 토론(Lobsters): [lobste.rs](https://lobste.rs/s/9nxwpi/sqlite_critical_cves_llm_slop)
- 원문: [링크 열기](https://research.jfrog.com/post/sqlite-critical-cves-or-llm-slops/)
---
출처: Lobsters · [원문 링크](https://research.jfrog.com/post/sqlite-critical-cves-or-llm-slops/)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.