Ai2, GPU 시간 예산 기반 스케줄링 공개
최근 30일 조회수 —좋아요 —핵심 요약
Ai2가 GPU 시간 예산과 계층형 공정 할당, 시분할 계약을 결합한 클러스터 스케줄링 체계를 공개했다.

앨런인공지능연구소(Ai2)가 GPU 시간 예산, 계층형 공정 할당, 시분할 계약을 결합한 클러스터 스케줄링 체계를 공개했다. Ai2는 기존 우선순위 기반 방식을 교체해 프로젝트별 GPU 시간 배분 논의를 건별 운영 업무에서 투명한 예산 편성 절차로 옮겼다고 Hugging Face 블로그에서 밝혔다.1
Ai2는 NVIDIA H100·B200·B300 GPU 수천 개를 881,024개 규모의 클러스터로 운영하며, 내부 연구자 약 150명의 대규모 분산 학습을 지원한다. 대규모 언어·비전언어 모델 학습부터 로봇 강화학습 시뮬레이션, 과학용 에이전트 후속 학습까지 수요가 몰리면서, 접수된 작업 기준 GPU 요청량은 가용량의 23배에 이른다.
기존에는 선점 중단을 거부할 수 있어 사용자가 디버깅용 GPU를 미리 점유하는 일이 생겼고, 모든 작업이 HIGH 우선순위를 택하면서 낮은 등급은 사실상 자원을 받지 못했다. 유지보수가 필요한 서버에서도 중단 불가 작업의 종료를 협상하느라 당직 엔지니어의 티켓 대응 시간 대부분이 쓰였다고 Ai2는 설명했다. 새 체계는 이런 ‘공유지의 비극’을 프로젝트별 예산과 공정 배분으로 다루려는 시도다. 다만 공개 자료에는 처리량이나 대기시간이 얼마나 개선됐는지 보여주는 수치는 제시되지 않았다.
Footnotes
-
Hugging Face 블로그·커뮤니티, 「Impactful scheduling for GPU clusters」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Impactful scheduling for GPU clusters — Hugging Face 블로그·커뮤니티 · 자료: 2026. 10. 10.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.