허깅페이스, 추론 라우터에 오픈라우터 도입
최근 30일 조회수 —좋아요 —핵심 요약
80여 제공사를 실시간 비교해 경로를 선택하며 오류를 줄이고 응답 속도와 처리량을 개선했다.

허깅페이스(Hugging Face)가 추론 서비스 ‘Inference Providers’의 자체 라우터를 오픈라우터(OpenRouter) 기반으로 교체했다. 오픈라우터 제공사가 지원하는 허깅페이스 허브의 오픈 가중치 모델을 기존 허깅페이스 토큰과 API로 호출할 수 있으며, 사용자는 코드를 바꿀 필요가 없다고 회사는 11월 16일 밝혔다.1
새 라우터는 실시간 가격·속도·안정성을 종합해 80곳이 넘는 제공사 가운데 요청별로 경로를 고른다. 첫 제공사가 실패하면 같은 호출 안에서 다른 제공사로 재시도한다. 오픈라우터 측 측정에 따르면 새 방식은 용량 오류를 46% 줄였고, 첫 토큰 응답 시간과 처리량을 각각 16.9%, 16.3% 개선했다. 이용자는 모델 ID에 :fastest, :cheapest나 특정 제공사 이름을 붙여 경로를 직접 지정할 수도 있다.
오픈라우터에서 오픈 가중치 모델이 처리한 토큰 비중은 2025년 10월 26.8%에서 2026년 9월 말 71.7%로 늘었다. 평균 비용도 입력 100만 토큰당 0.28달러, 출력은 1.62달러로 폐쇄형 모델의 1.27달러와 6.36달러보다 낮았다. 다만 최고난도 벤치마크에서는 선두 독점 모델에 뒤처진다고 허깅페이스는 인정했다.
Footnotes
-
Hugging Face 블로그·커뮤니티, 「Hugging Face and OpenRouter join forces to make open-weight models easy to run」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Hugging Face and OpenRouter join forces to make open-weight models easy to run — Hugging Face 블로그·커뮤니티 · 자료: 2026. 11. 16.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.