허깅페이스, 네이티브 TPU 백엔드 공개
최근 30일 조회수 —좋아요 —핵심 요약
TorchTPU로 별도 PyTorch/XLA 없이 Transformers와 Diffusers에서 구글 TPU를 직접 사용할 수 있다.

허깅페이스(Hugging Face)가 PyTorch 코드에서 구글 TPU를 직접 쓸 수 있는 네이티브 백엔드 TorchTPU 지원을 10월 20일 공개했다. 허깅페이스 발표에 따르면 Transformers v5와 Diffusers, Kernels에서 TPU를 일반 장치처럼 지정할 수 있으며, 기존 PyTorch/XLA(torch_xla)나 Optimum TPU를 거치지 않아도 된다.1
TorchTPU는 일반 PyTorch 코드와 즉시 실행(eager) 모드를 지원하고, TPU에 맞춘 Pallas 커널과 분산 학습, torch.compile 연동도 제공한다. TPU VM에서는 torch-tpu를 설치한 뒤 Transformers 모델을 불러올 때 device_map="tpu"를 지정하면 된다. Diffusers 파이프라인도 pipe.to("tpu")로 옮길 수 있고, 배포 시에는 TPU 백엔드로 컴파일할 수 있다. 같은 이미지 크기로 반복 실행하면 첫 호출에서 만든 그래프를 재사용한다는 설명이다.
이는 TPU에서 PyTorch를 실행할 때 지연 실행과 잦은 그래프 재컴파일, 까다로운 디버깅을 감수해야 했던 기존 방식을 단순화하려는 변화다. 다만 성능 수치나 PyTorch/XLA와의 벤치마크 비교는 이번 발표 자료에 제시되지 않았다.
Footnotes
-
Hugging Face 블로그·커뮤니티, 「Hugging Face ❤️ TorchTPU: TPUs, Natively」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Hugging Face ❤️ TorchTPU: TPUs, Natively — Hugging Face 블로그·커뮤니티 · 자료: 2026. 10. 20.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.