IBM, 통합 AI 모델 Granite Switch 4.1 공개

최근 30일 조회수 —좋아요 —

핵심 요약

채팅·의사결정·음성 인식을 단일 엔드포인트에서 처리하며 KV 캐시 재사용으로 자원 효율을 높였다.

IBM, 통합 AI 모델 Granite Switch 4.1 공개 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

IBM이 허깅페이스 블로그를 통해 채팅, 의사결정, 음성 인식을 단일 호스팅 엔드포인트에서 처리하는 Granite Switch 4.1을 공개했다. Granite-Switch-4.1-8B와 -30B는 범용 의사결정용 Decision aLoRA, 안전 판단에 특화한 Guardian aLoRA, 음성 인식 모델 Granite-Speech-5.0-Turbo-CTC를 기본 모델과 결합한다.1

IBM은 이 구성이 기본 모델 하나와 비슷한 GPU VRAM만 차지한다고 설명했다. 활성화형 저순위 적응 모듈(Activated LoRA)이 기본 모델의 키·값(KV) 캐시를 재사용하고, 음성 인식 인코더도 같은 위치에 배치해 작업 전환 비용을 낮췄다는 주장이다. 데모에서는 8B 모델이 실시간으로 음성을 받아쓰기하고 요약한 뒤, 유해성 검사와 사용자 지정 플래그 15개를 한 엔드포인트에서 판정한다.

성능 수치는 제한적으로 제시됐다. IBM에 따르면 Guardian은 안전 관련 의사결정 과제에서 평균적으로 Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions, Clef-Flash를 앞섰으며, 음성 모델은 OpenASR 리더보드에서 가장 빨랐다. 다만 구체적인 점수와 측정 조건은 자료에 없다. IBM은 향후 Mellea에서 어댑터를 훈련하는 SDK와 관련 튜토리얼도 내놓을 계획이다.

Footnotes

  1. Hugging Face 블로그·커뮤니티, 「Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint」 ↩

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint — Hugging Face 블로그·커뮤니티 · 자료: 2026. 10. 16.

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.