리퀴드 AI, 비전언어 모델 추론 가속 공개
최근 30일 조회수 —좋아요 —핵심 요약
추측 디코딩 보조 모델 DSpark가 LFM2.5-VL-3B의 전체 처리 속도를 최대 2.62배 높였다.

리퀴드 AI(Liquid AI)가 비전·언어 모델 LFM2.5-VL-3B용 실험적 추론 보조 모델 ‘LFM2.5-VL-DSpark’를 공개했다. 후보 토큰을 먼저 생성하는 추측 디코딩을 적용해 출력 품질을 바꾸지 않으면서 디코딩 속도를 높였다는 회사 측 발표다.1
DSpark는 어텐션 전용 4개 층과 블록 크기 9로 구성되며, 약 2억7,950만 개 매개변수를 추가한다. 이는 30억 매개변수인 본 모델보다 8.9% 늘어난 규모다. 블록 크기 8로 여섯 가지 시각 과제를 시험한 결과, M5 Max의 MLX 환경에서는 디코딩이 2.303.13배, 전체 지연시간이 1.562.62배 개선됐다. M3 Ultra의 llama.cpp에서는 각각 1.572.14배와 1.301.77배 빨라졌다. H100의 전체 처리 속도 향상 폭은 1.64~2.27배였다. llama.cpp, MLX-VLM, SGLang을 출시일부터 지원한다.
다만 추측 디코딩은 이미지 인코딩과 프리필 단계에는 적용되지 않아 전체 성능 향상은 디코딩 수치보다 작다. 또 제공된 자료는 ‘DSpark’를 모델 이름으로 설명할 뿐, NVIDIA DGX Spark에서 측정한 결과는 제시하지 않았다. H100 디코딩 범위도 원문에 ‘20.4~2.66배’로 적혀 있어 수치 오류 여부를 확인할 수 없다.
Footnotes
-
Hugging Face 블로그·커뮤니티, 「Accelerating vision-language models with LFM2.5-VL-DSpark」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Accelerating vision-language models with LFM2.5-VL-DSpark — Hugging Face 블로그·커뮤니티 · 자료: 2026. 9. 24.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.