허깅페이스, 의사결정 모델 인터페이스 공개

최근 30일 조회수 —좋아요 —

핵심 요약

허깅페이스가 허용된 선택지별 확률을 반환하는 의사결정 모델용 공통 인터페이스를 공개했다.

허깅페이스, 의사결정 모델 인터페이스 공개 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

허깅페이스가 미리 정한 선택지 가운데 답을 고르고 확률까지 반환하는 ‘의사결정 모델(Decision Model)’의 공통 인터페이스를 공개했다. 허깅페이스 블로그가 11월 10일 소개한 기본 구조는 ‘상태(State)+질문+허용된 답 → 결정+확률’이다. 텍스트를 토큰 단위로 생성하는 대규모 언어 모델(LLM)과 달리, 애플리케이션이 이해하는 선택지에 직접 확률을 매긴다.1

새 인터페이스는 transformers의 pipeline("decision")으로 쓸 수 있다. 블로그의 고객지원 예시에서 autotrust/GEV-26B-Decide는 이중 결제와 환불 요청을 처리할 부서로 billing을 선택했으며, 신뢰도는 약 0.9974, 선택지별 확률은 결제 0.9983·기술지원 0.0010·영업 0.0007로 제시됐다.

허깅페이스는 LLM에 JSON 출력을 요구하는 기존 방식이 잘못된 형식이나 허용 범위 밖의 답을 낼 수 있고, 제약 디코딩도 계산 부담을 더한다고 설명했다. 다만 이는 회사·커뮤니티의 기술 소개이며, 자료에는 독립적인 성능 검증이나 LLM 대비 처리 속도·비용 비교가 제시되지 않았다.

Footnotes

  1. Hugging Face 블로그·커뮤니티, 「Decision Models in Hugging Face」 ↩

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Decision Models in Hugging Face — Hugging Face 블로그·커뮤니티 · 자료: 2026. 11. 10.

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.