[Lobsters 요약] AI, 기업의 '배송 불가' 문제를 해결하지 못한다: 니힐 수레시의 비판적 고찰
20
설명
2026년 6월 10일, 니힐 수레시(Nikhil Suresh)는 'AI Won’t Fix a Company That Can’t Ship'라는 제목의 글을 통해 생성형 AI에 대한 과도한 기대를 비판했습니다.
그는 AI가 기업의 근본적인 문제, 즉 '제품을 제대로 출시하지 못하는 능력 부족'을 해결해 줄 수 없다고 주장하며, 특히 2019년 이후 AI 시장의 과대 광고와 실질적인 가치 사이의 괴리를 지적합니다.
수레시는 자신의 데이터 컨설팅 회사 Hermit Tech를 운영하며 AI 솔루션 도입을 지양하고 있으며, 이는 기술 자체의 한계보다는 기업의 실행 능력 부족에 초점을 맞추기 때문입니다.
### 배경 설명
최근 몇 년간 생성형 AI, 특히 대규모 언어 모델(LLM)은 기술 업계의 뜨거운 감자였습니다. 2023년 OpenAI의 ChatGPT 출시 이후, 많은 기업들이 AI를 도입하여 생산성을 높이고 혁신을 이루겠다는 비전을 제시했습니다. 그러나 니힐 수레시는 이러한 흐름에 대해 회의적인 시각을 보입니다. 그는 2019년경부터 데이터 과학 분야에서 일해왔으며, 당시에도 '머신러닝'이라는 이름으로 실제로는 단순 스프레드시트 작업에 머무르는 경우가 많았다고 회고합니다. GPT 이전의 AI 붐 역시 '기본적으로 허황된 것'이었다고 평가하며, 많은 데이터 과학자들이 인프라 부족과 과대 광고에 지쳐 데이터 엔지니어링으로 이동했음을 언급합니다. ChatGPT의 등장은 AI 시장을 다시 활성화시켰지만, 수레시는 '허황된 것의 양은 변하지 않았다'고 단언합니다. 그의 데이터 컨설팅 회사 Hermit Tech는 이러한 AI 붐 속에서도 의도적으로 AI 솔루션 도입을 배제하고 있으며, 이는 장기적인 관점에서 기업의 실질적인 가치 창출에 집중하기 위한 전략입니다. 그는 AI가 기업의 '배송 불가' 문제, 즉 제품이나 서비스를 성공적으로 출시하고 고객에게 전달하는 능력 부족을 해결해주지 못한다고 강조합니다. 많은 기업들이 AI를 만병통치약처럼 여기지만, 실제로는 조직의 비효율성, 잘못된 우선순위 설정, 그리고 실행 능력 부족이 더 큰 문제라는 것입니다. 특히 수레시는 AI가 기업의 근본적인 문제 해결보다는, 기존의 비효율성을 'AI'라는 라벨 아래 통합하여 더 큰 문제로 만들 수 있다고 경고합니다.
### AI 과대 광고와 실질적 가치의 괴리
니힐 수레시는 2019년경부터 AI 및 데이터 과학 분야에서 활동하며 시장의 과대 광고를 직접 경험했습니다. 당시 많은 기업들이 '머신러닝'을 원했지만 실제로는 단순 스프레드시트 작업에 머물렀고, AI 관련 직무 역시 실질적인 기술보다는 마케팅적인 요소가 강했다고 지적합니다. 그는 ChatGPT 등장 이후 AI 시장이 다시 활성화되었지만, '허황된 것의 양은 변하지 않았다'고 말하며, 많은 기업들이 AI를 마법의 도구처럼 여기는 경향이 있다고 비판합니다. 수레시는 자신의 컨설팅 회사 Hermit Tech에서 AI 솔루션 도입을 의도적으로 배제하고 있는데, 이는 AI가 기업의 근본적인 문제, 즉 '제품을 제대로 출시하지 못하는 능력 부족'을 해결해주지 못한다고 보기 때문입니다. 그는 AI가 기업의 비효율성을 가리는 포장지가 될 뿐, 문제 자체를 해결하지 못한다고 주장합니다. 예를 들어, S3 버킷 이름의 전역 고유성 제약과 같은 기본적인 기술적 사실을 LLM이 잘못 전달하는 사례를 들며, 전문가가 아닌 이상 이러한 오류를 식별하기 어렵다고 지적합니다. 이는 AI가 제공하는 정보의 신뢰성에 대한 근본적인 의문을 제기합니다.
### 기업의 '배송 불가' 문제와 실행 능력 부족
수레시는 기업들이 AI 도입에 앞서 해결해야 할 더 시급한 문제로 '배송 불가(Can't Ship)' 현상을 꼽습니다. 이는 제품이나 서비스를 성공적으로 개발하고 출시하는 능력 부족을 의미합니다. 그는 많은 프로젝트가 웹 개발, 데브옵스(DevOps), 이해관계자 관리 등 근본적인 문제로 인해 실패한다고 지적합니다. 예를 들어, 병원 기록 분석 프로젝트에서 머신러닝보다는 웹 개발이 98%를 차지했던 경험을 공유하며, AI의 역할은 종종 단순한 키워드 검색 수준에 머무르거나, 혹은 해결 불가능할 정도로 복잡한 문제에 직면한다고 말합니다. 그는 기업들이 AI를 통해 자동화를 기대하지만, 지난 30년간 자동화 기술은 이미 존재했으며, 비기술 기업들이 이를 제대로 활용하지 못하고 있다고 비판합니다. 또한, 많은 경영진들이 AI를 '마법'으로 여기며 비현실적인 기대를 품고 있다고 지적합니다. 이러한 기대는 종종 기술적 전문성이 부족한 리더들이 AI의 가능성을 과대평가하고, 실제로는 실현 불가능한 목표를 설정하게 만드는 원인이 됩니다. 그는 이러한 상황이 기업의 자원 낭비와 프로젝트 실패로 이어지는 주요 원인이라고 강조합니다.
### AI 거품과 미래 전망: 환각 문제 해결의 중요성
니힐 수레시는 AI, 특히 LLM의 미래 전망에 대해 회의적인 시각을 유지합니다. 그는 향후 5년간 AI 개발의 가장 큰 난관으로 '환각(hallucination)' 문제를 지적합니다. LLM이 사실과 다른 정보를 생성하는 문제는 AI의 신뢰성을 심각하게 저해하며, 법률, 의료 등 정확성이 필수적인 분야에서의 도입을 어렵게 만듭니다. 만약 이 문제가 해결되지 않는다면, 현재 AI 분야에 쏟아지는 막대한 투자와 자원은 거대한 거품으로 끝나고 대부분 낭비될 것이라고 예측합니다. 그는 환각 문제 해결 없이는 AI로부터 일관된 가치를 얻기 어렵다고 단언합니다. 수레시는 데이터 엔지니어링을 AI 작업의 필수적인 전제 조건으로 보지만, 이것이 AI 자체의 근본적인 문제를 해결하는 것은 아니라고 선을 긋습니다. 그는 데이터 엔지니어링이 시스템 통합, 데이터 정제 등 '지루하지만 필수적인' 작업을 통해 비즈니스의 정확한 상태를 파악하고, 이를 기반으로 AI가 작동할 수 있도록 하는 기반을 마련하는 것이라고 설명합니다. 궁극적으로 그는 AI가 기업의 '배송 불가' 문제를 해결해주지 못하며, 진정한 혁신은 기술 자체보다는 기업의 실행 능력과 문제 해결 능력에 달려 있다고 강조합니다. 그는 AI 거품이 꺼지면서 많은 기업들이 기존의 비효율성을 다시 직면하게 될 것이라고 전망합니다.
### 가치와 인사이트
니힐 수레시의 주장은 AI 기술 자체의 잠재력보다는, 기술을 도입하고 활용하는 기업의 역량에 초점을 맞추어야 함을 시사합니다. 많은 기업들이 AI를 만능 해결책으로 여기며 근본적인 문제 해결을 간과하고 있다는 점을 지적하며, 이는 기술 도입 실패와 자원 낭비로 이어질 수 있습니다. 특히 '배송 불가' 문제, 즉 제품 출시 및 실행 능력 부족은 AI 도입 이전에 반드시 해결해야 할 과제입니다. 수레시는 AI의 '환각' 문제와 같은 기술적 한계를 명확히 인지하고, 과도한 기대를 경계해야 한다고 강조합니다. 그의 관점은 기업들이 AI 도입 시 현실적인 목표 설정, 조직의 실행 능력 강화, 그리고 기술의 한계에 대한 명확한 이해를 바탕으로 접근해야 함을 시사합니다. 또한, 데이터 엔지니어링과 같은 기반 기술의 중요성을 강조하며, 이는 AI의 효과적인 활용을 위한 필수적인 선행 작업임을 보여줍니다. 그의 비판적인 시각은 기술 도입에 있어 신중함과 실질적인 가치 창출에 대한 깊은 성찰을 요구합니다.
### 기술·메타
- LLM (Large Language Models)
- ChatGPT
- Data Science
- Data Engineering
- Machine Learning
- Python
- AWS
- S3
- Selenium
- XGBoost
- Snowflake
- Git
- Extreme Programming
- Scrum
### 향후 전망
향후 5년간 AI 개발의 가장 큰 변수는 LLM의 '환각' 문제 해결 여부가 될 것입니다. 만약 이 문제가 해결되지 않는다면, 현재 AI 시장에 쏟아지는 막대한 투자는 거대한 거품으로 끝날 가능성이 높습니다. 수레시는 이러한 시나리오를 가장 유력하게 보고 있으며, 이는 AI 관련 기업들의 사업 모델과 투자 방향에 큰 영향을 미칠 것입니다. 반면, 점진적인 개선이 이루어진다면 AI는 특정 분야에서 유용성을 입증할 수 있겠지만, 근본적인 '진실성' 문제는 해결되지 않을 수 있습니다. 또한, AI 기술의 발전과 함께 '에이전트'와 같은 새로운 활용 방식이 등장할 수 있으나, 이는 LLM의 출력에 대한 인간의 검증 없이는 여전히 한계가 있을 것입니다. 기업들은 AI를 도입할 때, 단순히 최신 기술을 적용하는 것을 넘어, 조직의 근본적인 문제 해결 능력과 실행 역량을 강화하는 데 집중해야 할 것입니다. AI 거품이 꺼진 후에는 기업들이 다시 한번 '배송 불가' 문제와 직면하게 될 것이며, 이때 AI를 효과적으로 활용하는 기업과 그렇지 못한 기업 간의 격차가 더욱 벌어질 것으로 예상됩니다. 데이터 엔지니어링과 같은 기반 기술의 중요성은 더욱 부각될 것이며, AI를 단순히 마케팅 수단으로 활용하려는 시도는 점차 설득력을 잃을 것입니다.
📝 원문 및 참고
- Source: Lobsters
- 토론(Lobsters): [lobste.rs](https://lobste.rs/s/5motiw/ai_won_t_fix_company_can_t_ship)
- 원문: [링크 열기](https://agileproductdevelopment.substack.com/p/ai-wont-fix-a-company-that-cant-ship)
---
출처: Lobsters · [원문 링크](https://agileproductdevelopment.substack.com/p/ai-wont-fix-a-company-that-cant-ship)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.