[Hacker News 요약] Anthropic의 Fable 모델, 과도한 안전 필터로 인해 연구 및 개발 작업에 부적합 판정
2
설명
2026년 7월 7일, Rob Patro는 Anthropic의 생성형 AI 모델 Fable이 연구 및 개발 작업에 부적합하다고 주장하는 글을 게시했습니다.
Fable은 출시 초기에 미국 정부의 수출 통제를 받았으며, 이후 접근이 복구되었지만 과도한 안전 필터로 인해 사용자들의 불만이 제기되었습니다.
본문은 Fable이 소프트웨어 개발 및 추상적인 수학 문제 해결 시도에서 겪은 실패 사례를 상세히 설명하며, 모델의 실효성에 의문을 제기합니다.
### 배경 설명
Anthropic은 2026년 6월 9일, 안전에 중점을 둔 생성형 AI 모델인 Fable을 출시했습니다. 그러나 출시 직후인 6월 12일, 미국 정부는 Fable 및 관련 모델인 Mythos에 대해 수출 통제를 부과했습니다. 이로 인해 미국 시민이 아닌 사용자는 모델에 접근할 수 없게 되었고, Anthropic은 법적 위험을 피해 모델 제공을 중단해야 했습니다. 몇 주간의 협상 끝에 수출 통제가 완화되었고, Fable에 대한 접근이 복구되었으나(Mythos는 특정 파트너에게만 제한적으로 제공), 이 과정에서 온라인상에 많은 논란과 추측이 발생했습니다. 이러한 외부적 요인에도 불구하고, 본문의 저자는 Fable 모델 자체의 실질적인 유용성에 초점을 맞추고 있습니다. 특히 컴퓨터 과학 분야의 연구 수준 작업에서 Fable이 왜 유용하지 않은지에 대한 분석을 제시합니다. 이는 생성형 AI 모델의 안전 기능이 실제 사용성을 저해할 수 있다는 점을 시사합니다.
### 첫 번째 실패: 소프트웨어 재작성 작업에서의 거부
저자는 RNA-seq 데이터 분석 도구인 salmon의 C++ 버전을 Rust로 재작성하는 작업을 Fable을 통해 진행하려 했습니다. Opus(4.6-4.8)와 같은 이전 모델을 사용하여 성공적으로 라이브러리를 재작성한 경험이 있었기에 Fable에 대한 기대가 컸습니다. 그러나 Fable은 "plan" 모드에서 상세한 설명과 함께 재작성 지침을 포함한 프롬프트를 제출하자마자 안전 문제로 인해 거부했습니다. Anthropic은 Fable이 프롬프트를 거부하는지 여부를 결정하는 "분류기"를 사용한다고 주장하지만, 이 분류기가 "터무니없이 잘못 보정되었다"는 보고가 많다고 저자는 지적합니다. 저자의 프롬프트는 RNA-seq 데이터와 관련된 생물학 용어가 포함되어 있어 안전 경고를 발동시킨 것으로 추정됩니다. 저자는 이것이 단순한 소프트웨어 작업이며 새로운 생물학 연구가 아님을 설명하려 했으나, Fable은 프롬프트 거부 이유를 상세히 설명하거나 문제 해결 방법을 제시하지 않았습니다. 약 15~30분간의 재시도 끝에 저자는 Opus 4.8을 사용했으며, Opus는 만족스러운 결과를 제공했습니다. 이 경험을 통해 저자는 Fable의 분류기가 단순한 용어 및 사용자 거부 목록에 가깝다고 추론했으며, 생물학 연구나 사이버 보안 연구와 관련된 주제나 사용자에게는 참여를 거부하는 경향이 있다고 판단했습니다. 이는 명백한 보안 위험이 없음에도 불구하고 Fable이 적합한 작업에 참여를 거부한 실망스러운 사례였습니다. 소셜 미디어에서도 유사한 경험을 공유하는 다른 사용자들의 사례를 접했으며, "나는 누구인가?", "미토콘드리아란 무엇인가?"와 같은 지극히 평범한 질문조차 거부당했다는 보고도 있었습니다.
### 두 번째 실패: 추상적인 수학 문제 해결 시도의 좌절
Fable은 2026년 6월 12일 수출 통제로 인해 일시적으로 사용 불가능 상태가 되었습니다. 7월 1일, Anthropic은 더 엄격해진 안전 조치를 적용하여 Fable을 재출시했습니다. 저자는 이에 다시 한번 Fable을 시험해 보기로 결정했습니다. 이번에는 "네트워크 진화의 최소 재구성"이라는 대학원 시절 연구했던 복잡한 수학적 문제를 Fable에 제시했습니다. 이 문제는 유전자 복제, 생성, 삭제 이벤트를 기반으로 단백질 상호작용 네트워크의 진화 역사를 최소한으로 재구성하는 문제입니다. 저자는 이 문제에 대한 효율적인 동적 프로그래밍 알고리즘을 개발했지만, "블로킹 루프"라는 물리적으로 실현 불가능한 해결책이 생성될 수 있다는 것을 발견했습니다. 이를 해결하기 위해 저자는 특정 엣지의 비용을 무한대로 설정하고 동적 프로그래밍을 재실행하는 휴리스틱 방법을 사용했습니다. 저자는 이 문제가 컴퓨터 과학자들이 자주 접하는 유형의 문제이며, 최적의 해를 보장하는 알고리즘을 찾지 못했거나 문제의 복잡성에 대한 공식적인 증명이 없는 경우에 해당한다고 설명합니다. 첫 번째 시도로, 저자는 Fable에게 논문을 제시하고 문제의 복잡성 또는 최적 알고리즘 개발에 대한 의견을 물었으나, 논문에 생물학 관련 용어가 포함되어 있다는 이유로 즉시 거부당했습니다. 두 번째 시도로, 저자는 문제의 수학적 핵심만을 추출하여 추상화된 형태로 제시했지만, 이 역시 즉시 거부당했습니다. ChatGPT의 도움을 받아 "블로킹"과 같은 용어가 사이버 보안과 관련되어 모델의 거부를 유발할 수 있다는 점을 파악하고, 문제 설명을 최대한 추상적이고 중립적으로 재구성하여 Fable에 다시 제시했습니다. 그러나 Fable은 이 추상적인 이산 수학 문제에 대해서도 "완전하고 절대적인 거부"를 보였습니다. 저자는 프롬프트에 잠재적으로 문제를 일으킬 수 있는 요소를 찾기 위해 다양한 시도를 했으나, Fable은 결국 상호작용하지 못했습니다. 이는 Fable이 생물학이나 사이버 보안과 전혀 관련 없는 순수하게 추상적인 수학 문제에도 참여를 거부하는 심각한 한계를 보여줍니다.
### Fable의 과도한 안전 필터와 실질적 유용성 부족
저자는 Fable이 소프트웨어 개발 작업과 추상적인 수학 문제 해결 시도 모두에서 실패했음을 강조합니다. 소프트웨어 개발의 경우, 재작성하려는 대상이 기존의 공개된 오픈소스 소프트웨어이고, 작업 내용이 순전히 기술적인 재작성임에도 불구하고 Fable은 "안전" 기능을 이유로 참여를 거부했습니다. 이는 모델의 안전 기능이 실제 사용성을 심각하게 저해함을 보여줍니다. 더 나아가, 저자는 Fable이 생물학이나 사이버 보안과 전혀 관련 없는 순수하게 추상적인 수학 문제에 대해서도 참여를 거부하는 것을 경험했습니다. 프롬프트에서 잠재적으로 문제를 일으킬 수 있는 모든 맥락을 제거하려는 극단적인 노력에도 불구하고 Fable은 응답을 거부했습니다. 이러한 경험을 바탕으로 저자는 Fable이 "유용한 모델이 아니다"라고 결론 내립니다. 특히 생물정보학, 유전체학, 계산 생물학, 생물학, 사이버 보안, 그리고 컴퓨터 과학 분야에서 작업하는 사용자들에게는 이러한 문제가 더욱 두드러질 수 있다고 지적합니다. 저자는 Anthropic이 미래에 이러한 문제를 해결하기를 바라지만, 현재로서는 Fable의 API 가격이 적절한지 평가할 수조차 없는 상황이라고 토로합니다.
### 가치와 인사이트
Anthropic의 Fable 모델은 출시 초기에 수출 통제라는 외부적 요인으로 주목받았으나, 본문은 모델 자체의 실질적인 유용성에 대한 비판적인 시각을 제시합니다. 특히, 과도하게 설정된 안전 필터가 연구 및 개발 작업의 생산성을 저해할 수 있다는 점을 구체적인 사례를 통해 보여줍니다. 저자는 소프트웨어 재작성과 같은 일반적인 개발 작업뿐만 아니라, 생물학이나 사이버 보안과 전혀 관련 없는 순수 추상 수학 문제에 대해서도 Fable이 참여를 거부하는 경험을 공유하며, 모델의 분류기가 실제 맥락을 제대로 이해하지 못하고 오작동할 가능성을 시사합니다. 이는 생성형 AI 모델의 안전성 확보와 실제 사용성 간의 균형이 얼마나 중요한지를 보여주는 사례이며, 특히 전문 분야의 연구자 및 개발자들에게는 모델 선택 시 신중한 접근이 필요함을 시사합니다. Fable의 이러한 제한점은 향후 유사한 안전 중심 모델 개발에 있어 중요한 고려 사항이 될 것입니다.
### 향후 전망
Fable 모델의 향후 전망은 Anthropic이 현재 제기된 과도한 안전 필터 문제를 얼마나 효과적으로 해결하느냐에 달려 있습니다. 저자가 지적한 것처럼, 생물학, 사이버 보안 등 특정 분야와의 연관성만으로도 프롬프트가 거부되는 현상은 모델의 활용 범위를 극도로 제한합니다. 만약 Anthropic이 분류기의 오작동을 수정하고, 사용자가 프롬프트의 의도를 명확히 설명하거나 맥락을 조정함으로써 모델의 참여를 유도할 수 있는 방안을 마련한다면, Fable은 특정 연구 및 개발 작업에서 유용성을 발휘할 수 있을 것입니다. 그러나 현재와 같은 상태가 지속된다면, Fable은 특정 분야의 사용자들에게는 실질적인 가치를 제공하지 못하는 모델로 남을 가능성이 높습니다. 경쟁 모델들, 예를 들어 OpenAI의 ChatGPT나 Google의 Gemini 등이 지속적으로 발전하고 있으며, 이러한 모델들이 더 유연하고 정확한 응답을 제공한다면 Fable은 시장에서 경쟁력을 잃을 수 있습니다. 또한, Fable의 개발 커뮤니티와 사용자 피드백이 모델 개선에 어떻게 반영될지도 중요한 변수가 될 것입니다.
📝 원문 및 참고
- Source: Hacker News
- 토론(HN): [news.ycombinator.com](https://news.ycombinator.com/item?id=48837162)
- 원문: [링크 열기](https://combine-lab.github.io/blog/2026/07/07/fable-is-not-a-useful-model.html)
---
출처: Hacker News · [원문 링크](https://combine-lab.github.io/blog/2026/07/07/fable-is-not-a-useful-model.html)
신고 · 불법·유해·아동 안전(CSAE) 관련 콘텐츠
댓글 0
아직 댓글이 없습니다. 첫 댓글을 남겨 보세요.