[Hacker News 요약] 로컬 LLM에 23개 숫자 덧셈을 시켰더니 7번 모두 틀린 답을 내놓다
30
설명
이 기사는 한 사용자가 로컬 LLM(Qwen 2.5 Coder)을 사용하여 23개의 주식 거래 내역 합계를 계산하려다 겪은 시행착오를 상세히 다룹니다. 여러 차례의 시도와 다양한 설정 변경에도 불구하고, LLM은 일관되게 잘못된 답을 제시하며 기본적인 산술 연산에 대한 취약성을 드러냈습니다. 이 과정은 LLM이 단순한 텍스트 생성기를 넘어 실제 문제를 해결하는 데 필요한 현대 AI 스택의 복잡성과 각 구성 요소의 중요성을 명확히 보여줍니다.
### 배경 설명
최근 몇 년간 대규모 언어 모델(LLM)은 자연어 처리 분야에서 혁명적인 발전을 이끌며 텍스트 생성, 번역, 요약 등 다양한 응용 분야에서 놀라운 성능을 선보였습니다. 특히, 데이터 프라이버시 보호, 클라우드 비용 절감, 그리고 특정 목적에 맞는 모델 커스터마이징의 이점 때문에 개인 기기에서 LLM을 직접 실행하는 '로컬 LLM' 환경 구축에 대한 관심이 폭발적으로 증가했습니다. Ollama와 같은 도구는 이러한 로컬 환경 설정을 간소화하며, Qwen, Llama, Mistral 등 다양한 오픈소스 모델들이 활발히 개발되고 배포되고 있습니다.
그러나 LLM의 근본적인 작동 방식은 방대한 텍스트 데이터에서 통계적 패턴을 학습하여 다음 올바른 토큰을 예측하는 것에 기반합니다. 이는 인간의 '추론' 능력과는 다르며, 정확한 수학적 계산이나 복잡한 논리적 연산에는 본질적인 한계를 가집니다. 마치 인간이 복잡한 덧셈을 암산하기보다 계산기를 사용하는 것이 더 정확하고 효율적인 것과 유사합니다. 이러한 배경 속에서, 본 기사는 로컬 LLM이 단순한 덧셈 문제조차 해결하지 못하는 과정을 통해, LLM 스택의 각 구성 요소와 그 한계를 명확히 보여주며, 신뢰성 있는 AI 애플리케이션 구축을 위한 핵심적인 통찰을 제공합니다. 이는 LLM을 만능 해결사로 여기는 일반적인 인식을 재고하고, 실제 적용 시 필요한 추가적인 기술적 고려사항을 일깨워줍니다.
### 로컬 LLM의 연산 능력 한계와 '예측'의 본질
저자는 23개의 주식 거래 내역 합계를 구하기 위해 M3 Max 맥북에 Ollama와 Qwen 2.5 Coder 7B 모델을 설치하고 테스트를 시작했습니다. 첫 시도에서 모델은 입력 데이터의 절반을 누락하고 잘못된 합계(947)를 제시했습니다. 이어지는 시도들에서는 전체 데이터를 인식했음에도 불구하고, 덧셈 식은 정확하게 생성했지만 최종 합계는 틀리는(2,333) 등 일관되게 오답을 내놓았습니다. 이는 LLM이 수학적 연산을 직접 수행하는 것이 아니라, 방대한 학습 데이터에서 '그럴듯한' 숫자의 패턴을 찾아 '예측'한다는 본질적인 한계를 명확히 보여줍니다. 모델의 크기를 32B로 늘려도 계산 오류는 여전했으며, 이는 LLM이 단순한 연산조차 신뢰할 수 없음을 입증합니다.
### 도구 호출(Tool-Calling)의 복잡성과 '핸드셰이크 실패'
LLM의 연산 한계를 극복하기 위한 핵심 방법은 외부 도구, 즉 코드 인터프리터를 활용하는 것입니다. 저자는 Open Interpreter와 같은 코드 실행 도구(harness)를 활용하려 했으나, 7B 및 32B 모델 모두 JSON 형태의 도구 호출 텍스트를 생성했음에도 불구하고 Open Interpreter가 이를 실제 도구 호출로 인식하지 못하고 단순 텍스트로 출력하는 문제가 발생했습니다. 이는 모델이 '도구를 호출해야 한다'는 의도는 이해하지만, '정확히 어떤 토큰 시퀀스로 호출해야 하는지'에 대한 미세한 학습이 부족하여 발생하는 '핸드셰이크 실패'를 보여줍니다. OpenAI의 GPT-4와 같은 프론티어 모델들이 구조화된 출력 및 도구 사용에 대해 집중적으로 후처리 학습되는 것과 달리, 작은 오픈소스 모델들은 이 부분에서 취약점을 드러냅니다.
### 코드 인터프리터의 결정적 역할과 프롬프트 엔지니어링의 중요성
결국 저자는 Open WebUI의 내장 코드 인터프리터 기능을 활성화하여 문제를 해결했습니다. 코드 인터프리터가 작동하자, 모델은 파이썬 코드를 정확히 작성했고 샌드박스가 이를 실행하여 덧셈 결과를 도출했습니다. 초기에는 입력 데이터의 모호성(예: "Chegg"와 "$CHGG" 혼용)으로 인해 일부 데이터만 계산하는 문제가 있었으나, "Chegg의 티커는 $CHGG이며, 모든 23개 거래가 Chegg 관련이다. 모두 합산하라"는 명확한 프롬프트로 재시도하자 최종적으로 정확한 답(1,884)을 얻을 수 있었습니다. 이는 LLM의 신뢰성이 모델 자체의 성능뿐만 아니라, 외부 도구(하네스)의 활용 여부와 사용자 프롬프트의 명확성에 크게 좌우됨을 시사합니다. 즉, 실패의 원인이 '계산'에서 '해석'으로 전환되었고, 해석 오류는 프롬프트 개선을 통해 디버깅 가능하다는 더 나은 실패 모드를 발견한 것입니다.
### 현대 AI 스택의 4가지 핵심 레이어와 '하네스'의 중요성
저자는 이번 경험을 통해 작동하는 AI 제품이 모델(Model), 추론 엔진(Inference Engine), 오케스트레이터(Orchestrator), 그리고 하네스(Harness)라는 네 가지 핵심 레이어로 구성된다는 점을 깨달았습니다. 모델은 토큰을 예측할 뿐 계산하거나 행동하지 않으며, 추론 엔진은 모델 가중치를 로드하고 연산을 실행합니다. 오케스트레이터는 모델 관리와 API 노출을 담당하고, 가장 중요한 '하네스'는 모델을 도구, 코드 실행, 에이전트 루프 등으로 감싸 신뢰성을 부여하는 역할을 합니다. ChatGPT나 Claude.ai가 복잡한 계산을 정확히 수행하는 것은 모델 자체의 연산 능력이 아니라, 내장된 코드 인터프리터(하네스)가 작동하여 모델이 작성한 코드를 실행하기 때문입니다. 로컬 LLM 환경에서는 이러한 하네스의 존재와 실제 작동 여부를 확인하는 것이 필수적입니다.
### 가치와 인사이트
이 기사는 로컬 LLM을 활용하려는 개발자 및 IT 전문가들에게 매우 중요한 실용적 통찰을 제공합니다. 첫째, LLM의 본질적인 한계, 즉 '연산'이 아닌 '패턴 매칭'에 기반한 '예측'이라는 점을 명확히 인지하고, 이를 보완할 전략을 세워야 합니다. 둘째, 신뢰성 있는 AI 애플리케이션을 구축하기 위해서는 모델 자체의 성능을 넘어, 코드 실행 환경을 제공하는 '하네스(Harness)'의 역할이 결정적임을 강조합니다. 이는 단순히 LLM을 불러와 사용하는 것을 넘어, AI 스택 전체를 이해하고 적절한 도구를 통합해야 함을 의미합니다. 셋째, 도구 호출 시 모델이 정확한 형식의 토큰을 생성하도록 유도하는 프롬프트 엔지니어링과, 모호한 입력에 대한 명확한 지시의 중요성을 보여줍니다. 결과적으로, LLM을 실제 업무에 적용할 때는 단순한 챗봇 인터페이스를 넘어선 에이전트 기반의 접근 방식과 견고한 도구 통합이 필수적이라는 교훈을 얻을 수 있습니다. 이는 AI 시스템 설계 시 '모델 중심' 사고에서 '시스템 중심' 사고로의 전환을 요구합니다.
### 기술·메타
- Ollama (로컬 LLM 오케스트레이터)
- Qwen 2.5 Coder (LLM 모델)
- Open Interpreter (CLI 기반 코드 인터프리터/하네스)
- Open WebUI (로컬 LLM 웹 UI 및 내장 코드 인터프리터)
- Python (코드 실행 환경)
- M3 Max (하드웨어 플랫폼)
### 향후 전망
향후 로컬 LLM 생태계는 더욱 발전하며, 본 기사에서 지적된 문제점들을 해결하기 위한 다양한 노력이 이루어질 것입니다. 첫째, Ollama와 같은 오케스트레이터 및 Open Interpreter, Open WebUI와 같은 하네스 도구들은 모델과의 상호작용을 더욱 원활하게 하고, 도구 호출 프로토콜의 표준화를 통해 '핸드셰이크 실패'와 같은 문제를 줄여나갈 것입니다. 이는 개발자들이 로컬 LLM 환경을 더욱 쉽게 구축하고 활용할 수 있도록 돕는 중요한 진전이 될 것입니다. 둘째, 모델 자체도 구조화된 출력 및 도구 사용에 대한 후처리 학습이 강화되어, 작은 모델에서도 보다 안정적인 도구 호출 능력을 갖추게 될 가능성이 있습니다. 셋째, 개발자 커뮤니티에서는 LLM의 한계를 보완하는 에이전트 프레임워크(예: LangChain, LlamaIndex)와 코드 인터프리터 통합이 더욱 보편화될 것입니다. 궁극적으로, 로컬 LLM은 단순한 텍스트 생성기를 넘어, 외부 도구와 연동하여 복잡한 연산 및 실제 세계의 문제 해결에 기여하는 강력한 개인 AI 비서로 진화할 것으로 예상됩니다. 경쟁은 모델 성능뿐 아니라, 이러한 통합 스택의 완성도와 사용자 경험에 초점을 맞출 것입니다.
📝 원문 및 참고
- Source: Hacker News
- 토론(HN): [news.ycombinator.com](https://news.ycombinator.com/item?id=47907355)
- 원문: [링크 열기](https://viggy28.dev/article/local-llm-seven-wrong-answers/)
---
출처: Hacker News · [원문 링크](https://viggy28.dev/article/local-llm-seven-wrong-answers/)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.