Microsoft Decision-1: 보정 확률 출력 모델의 가격과 라우팅 설계
홈랩 구축 체크리스트 — 로컬 LLM을 세우고 Tailscale로 안전하게 잇는 20단계를 A4 한 장으로 정리했습니다.
체크리스트 받기 →
Microsoft는 2026년 10월 9일 라우팅, 분류, 루브릭 기반 평가에 특화된 Decision-1을 Microsoft Foundry와 OpenRouter에 내놓았다. 입력 백만 토큰당 0.042달러, 출력 무료라는 가격이 눈에 띄지만 이 모델의 의미는 가격보다 용도에 있다. 이 글에서는 모델 사양과 가격, 성능 주장의 해석, 워크로드별 라우팅 전략과 비용 계산을 정리한다.
생성 모델이 아닌 판정 모델
Decision-1은 문장을 길게 생성하는 모델이 아니라 예/아니오, 객관식, 점수 척도 같은 판정 과제에서 보정된 확률을 돌려주는 모델이다. 앞서 다룬 Liquid AI의 d1 계열과 같은 의사결정 모델 흐름에 속하며, 에이전트 파이프라인에서 어느 모델에 보낼지 정하거나 출력이 기준을 충족했는지 채점하는 단계를 맡는다.
확률을 보정해 내놓는다는 점이 설계에 중요하다. 단순한 라벨이 아니라 신뢰도 값을 받으면 임계값을 정해 낮은 확신 구간만 상위 모델이나 사람에게 넘기는 정책을 만들 수 있다.
모델 사양과 가격
| 항목 | 내용 |
|---|---|
| 기반 모델 | Qwen3.5-9B |
| 용도 | 라우팅, 분류, 루브릭 평가 |
| 출력 | 보정된 확률 |
| 가격 | 입력 $0.042/백만 토큰, 출력 무료 |
| 제공 경로 | Microsoft Foundry, OpenRouter |
출력이 무료이고 출력 자체도 짧은 확률 값이므로 비용은 사실상 입력 길이에 비례한다. 판정 대상 문서가 길수록 비용이 커지고, 프롬프트 템플릿을 짧게 유지하는 것이 직접적인 절감 수단이다.
성능 주장과 읽는 법
Microsoft는 36개 벤치마크, 약 15만 문항에서 최고 정확도를 냈고 Quyet-1.0-Large보다 4.5배, GPT-6 Sol보다 35배 빠르며 입력을 약간 바꿔도 98.7%는 같은 결정을 낸다고 밝혔다. 모두 제공사의 주장이므로 자사 데이터로 재현해야 한다. 특히 분류 기준은 조직마다 달라서 공개 벤치마크의 정확도가 내부 루브릭에서 그대로 유지된다고 가정하면 안 된다. 98.7%라는 섭동 안정성은 일관성 지표일 뿐 정확성을 보장하지 않는다는 점도 구분해서 봐야 한다.
워크로드별 라우팅 전략
flowchart TD
Q["요청 입력"] --> D["Decision-1: 난이도·유형 판정"]
D --> E{"확신도 충분?"}
E -->|"높음, 단순"| S["경량 모델"]
E -->|"높음, 복잡"| L["고성능 모델"]
E -->|"낮음"| H["상위 모델 또는 사람 검토"]
S --> V["Decision-1: 루브릭 채점"]
L --> V
V --> O["최종 응답"]판정 모델은 두 위치에 놓을 수 있다. 앞단에서는 요청을 분류해 경량 모델과 고성능 모델로 나누고, 뒷단에서는 생성 결과를 루브릭으로 채점해 재시도 여부를 정한다. 워크로드 성격에 따라 적합도가 갈린다.
- 적합: 고빈도·저지연 분류, 콘텐츠 정책 선별, 의도 분류, 응답 품질 점수화
- 주의: 근거 설명이 필요한 판정. 확률만으로는 이유를 알 수 없다.
- 부적합: 개방형 생성, 다단계 추론이 필요한 질의
비용-성능 트레이드오프 계산
라우팅의 이득은 판정 비용보다 절감되는 고성능 모델 호출 비용이 클 때 생긴다. 요청 100만 건, 건당 입력 500토큰이면 판정 입력은 5억 토큰이고 가격 기준 약 21달러다. 이 비용으로 고성능 모델 호출의 일정 비율을 경량 모델로 돌릴 수 있다면 순이득이 크다. 다만 오분류로 어려운 질의가 경량 모델에 가면 품질 손실과 재시도 비용이 생기므로, 낮은 확신 구간을 상위로 올리는 에스컬레이션 임계값을 실측으로 정해야 한다.
도입 시 검증 항목
- 자체 라벨 데이터로 정확도와 보정 품질(확률과 실제 정답률의 일치) 측정
- 임계값별 에스컬레이션 비율과 총비용 곡선 작성
- 입력 길이 분포에 따른 월 비용 시뮬레이션
- 모델 교체 시 판정 기준이 흔들리지 않도록 평가 세트 고정
마무리
Decision-1은 Qwen3.5-9B 기반의 판정 전용 모델로, 낮은 입력 단가와 보정 확률 출력이 라우팅과 채점 단계에 맞는다. 성능 수치는 제공사 주장이므로 내부 데이터로 보정 품질과 에스컬레이션 임계값을 검증한 뒤 적용하는 것이 순서다. 판정 비용이 작아도 오분류 비용은 작지 않다는 점을 라우팅 설계에서 함께 계산해야 한다.
Keywords
Microsoft Decision-1, Decision Model, Calibrated Probability, Model Routing, Qwen3.5-9B, 의사결정 모델, 라우팅 전략, 비용 최적화, 보정 확률, 루브릭 평가
Sources
'IT Professional Engineering > AI.ML' 카테고리의 다른 글
| Claude Managed Agents: 호스팅 에이전트 플랫폼의 거버넌스 체계 (0) | 2026.10.14 |
|---|---|
| Claude Code Projects: 공유 메모리와 스레드 격리 기반 에이전트 플랫폼 (0) | 2026.10.14 |
| REA: Ghidra·IDA를 MCP로 잇는 리버스 엔지니어링 에이전트와 보안팀의 대응 (0) | 2026.10.14 |
| Claude Code와 Linux 커널: 패치 품질·리뷰 기준·에이전트 신뢰도 평가 설계 (0) | 2026.10.14 |
| Context as New Code: 컨텍스트를 설계 자산으로 관리하는 개발 수명주기 (0) | 2026.10.13 |
홈랩 구축 체크리스트를 A4 한 장으로 드립니다
로컬 LLM을 세우고 Tailscale로 안전하게 잇는 20단계. 이메일을 남기면 바로 보내드립니다. 광고 없이, 언제든 수신거부.
체크리스트 받기 →