[Techmeme 요약] AI, 복잡한 소프트웨어 검증을 쉽고 필수적으로 만들다: &Truth, 7천만 달러 시드 투자 유치
4
설명
복잡한 소프트웨어의 오류를 수학적으로 증명하는 '정형 검증(formal verification)' 분야에 인공지능(AI) 기술이 도입되며 변화의 바람이 불고 있습니다. &Truth와 같은 스타트업들은 AI를 활용해 이 과정을 자동화하고, 소프트웨어의 신뢰성과 보안성을 획기적으로 높일 수 있다고 주장합니다. 이번 기술 발전은 소프트웨어 개발 방식뿐만 아니라, 우리가 사용하는 디지털 기기의 안전성에도 큰 영향을 미칠 것으로 예상됩니다.
### 배경 설명
소프트웨어는 우리 생활 곳곳에 깊숙이 자리 잡고 있지만, 예상치 못한 오류나 보안 취약점으로 인해 심각한 문제를 일으키기도 합니다. 이를 방지하기 위해 개발자들은 '정형 검증'이라는 복잡하고 시간 소모적인 과정을 거쳐 소프트웨어가 의도한 대로 정확하게 작동하는지 수학적으로 증명하려 합니다. 하지만 이 과정은 전문가의 높은 숙련도와 막대한 시간, 비용을 요구하여 주로 항공우주, 금융 등 극히 중요한 시스템에만 제한적으로 적용되어 왔습니다. 최근에는 생성형 AI(generative AI) 기술의 발전으로, 이러한 정형 검증 과정을 자동화하고 일반 개발자들도 쉽게 접근할 수 있도록 만들려는 시도가 활발해지고 있습니다. 이는 소프트웨어의 신뢰성을 높이고 보안 사고를 예방하는 데 중요한 역할을 할 것으로 기대됩니다.
### AI, 정형 검증의 장벽을 낮추다
새로운 스타트업인 &Truth는 AI를 활용하여 정형 검증 과정을 자동화하는 데 주력하고 있습니다. 스탠포드 대학의 연구원인 Chuyue Sun은 AI 도구를 사용하여 엔지니어링 프로젝트를 단 하루 만에, 500달러 미만의 비용으로 완료할 수 있음을 보여주었습니다. 이는 숙련된 전문가 3명이 5개월 동안 수작업으로 진행했던 작업과 비교하면 엄청난 효율성 향상입니다. &Truth는 이러한 기술을 바탕으로 7천만 달러의 시드 투자를 유치했으며, 향후 모든 프로그래밍 언어에 대한 검증을 목표로 하고 있습니다. 이 외에도 Robinhood CEO Vlad Tenev가 공동 창업한 Harmonic은 AI 에이전트 'Aristotle'을 통해 C 언어 및 Verilog 하드웨어 설계를 검증할 수 있다고 발표했습니다. 또한, Anthropic과 Theorem은 AI를 활용하여 수조 번의 테스트로도 발견하지 못했던 오픈소스 소프트웨어의 버그를 찾아냈다고 밝혔습니다.
### 정형 검증의 중요성과 현재의 한계
정형 검증은 이미 보잉 항공기, 아마존 서버, 25억 개 이상의 애플 기기에 사용되는 소프트웨어의 일부에 적용되고 있습니다. 특히 보안과 직결되는 코드의 경우, 취약점이 악용될 경우 심각한 피해를 초래할 수 있기 때문에 정형 검증의 중요성은 더욱 강조됩니다. 아마존 웹 서비스(AWS)의 Byron Cook 부사장은 정형 검증이 클라우드 보안에 대한 고객의 우려를 해소하고 버그를 조기에 발견하여 팀의 업무 속도를 높이는 데 기여했다고 말했습니다. 하지만 많은 중소 규모 기술 기업들은 검증 엔지니어 부족, 높은 비용, 그리고 검증 과정에서 발생하는 시간 지연으로 인해 정형 검증 도입을 망설이고 있습니다. 애플 역시 암호화에 사용되는 'corecrypto' 라이브러리에서 정형 검증을 통해 발견된 일부 문제를 다른 방법으로는 찾기 어려웠다고 인정했지만, 새로운 코드를 추가할 때 검증 속도를 따라잡기 위해 신중해야 한다고 밝혔습니다.
### AI 기반 검증의 미래와 과제
AI가 정형 검증을 대중화할 수 있을지에 대한 질문은 여전히 남아있습니다. 일부 전문가들은 AI가 사용자 오류나 하드웨어 고장에서 발생하는 버그를 얼마나 잘 잡아낼 수 있을지에 대해 회의적인 시각을 보입니다. Antithesis의 Will Wilson 대표는 정형 검증을 '수학 애호가들을 위한 함정'이라고 표현하며, 수백만 달러를 투자했음에도 불구하고 자체 도구를 통해 추가적인 오류를 발견했다고 말했습니다. 이더리움 창시자인 Vitalik Buterin 역시 정형 검증이 '만병통치약'은 아니라고 언급했습니다. 그럼에도 불구하고, AI 기반 정형 검증은 AI 시스템이 사이버 공격을 감행하거나 혼란을 야기하는 것을 막는 중요한 방어 수단이 될 것으로 기대됩니다. 특히, 오픈소스 소프트웨어 개발자들은 AI 지원 검증을 실험하며 지속적인 자금 지원 방안을 모색하고 있습니다. Madan Musuvathi는 마이크로소프트 리서치를 떠나 설립한 스타트업 Truidic을 통해 AI의 공격적인 활용에 맞서 'AI를 모두에게 안전하고 확실하게 만드는 것'의 중요성을 강조했습니다.
### 가치와 인사이트
AI 기술의 발전은 복잡하고 전문적인 영역으로 여겨졌던 소프트웨어 정형 검증의 문턱을 낮추고 있습니다. &Truth와 같은 스타트업들은 AI를 통해 검증 과정을 자동화하고 효율화함으로써, 소프트웨어의 신뢰성과 보안성을 한 단계 끌어올릴 잠재력을 보여주고 있습니다. 이는 개발 비용 절감, 개발 속도 향상, 그리고 궁극적으로는 더욱 안전하고 안정적인 디지털 환경을 구축하는 데 기여할 것입니다.
### 향후 전망
AI 기반 정형 검증의 확산은 소프트웨어 개발 생태계 전반에 걸쳐 큰 변화를 가져올 것입니다. 우선, 기업들은 더 적은 비용과 시간으로 소프트웨어의 오류를 줄이고 보안을 강화할 수 있게 되어, 제품 출시 주기를 단축하고 혁신을 가속화할 수 있습니다. 또한, AI 시스템 자체의 안전성을 검증하는 데에도 AI 기반 정형 검증이 활용될 가능성이 높습니다. 이는 AI의 오작동이나 악의적인 사용으로 인한 위험을 줄이는 데 중요한 역할을 할 것입니다. 다만, AI가 모든 종류의 버그를 완벽하게 잡아낼 수 있는지, 그리고 인간의 오류나 예상치 못한 상황에 대한 검증은 어떻게 이루어질지에 대한 지속적인 연구와 논의가 필요합니다. 장기적으로는 소프트웨어의 신뢰성이 보장됨에 따라, 자율 주행 자동차, 의료 기기 등 더욱 민감하고 중요한 분야에서의 AI 활용이 확대될 것으로 예상됩니다.
📝 원문 및 참고
- Source: Techmeme
- Techmeme 리버: [techmeme.com](https://www.techmeme.com/261030/p4#a261030p4)
- 원문 기사: [링크 열기](https://www.wired.com/story/software-verification-is-the-hot-new-answer-to-the-ai-safety-crisis/)
---
출처: Techmeme ([Original Article](https://www.wired.com/story/software-verification-is-the-hot-new-answer-to-the-ai-safety-crisis/))
이 글에 대한 한 줄 의견
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 로그인하면 바로 의견을 남길 수 있습니다.