구글, PyTorch용 TPU 네이티브 백엔드 TorchTPU를 오픈소스로 공개
- 구글이 PyTorch를 TPU에서 돌리는 네이티브 백엔드 TorchTPU를 GitHub 저장소 google-pytorch/torch_tpu에 오픈소스로 공개함
- 저장소 main 브랜치는 커밋 4,464개, 브랜치 687개, 태그 2개로 구성됨
- CI는 RBE 프리서브밋을 쓸 수 없을 때 단일 칩 Cloud TPU v5e 테스트를 자체 호스팅 8칩 v5e 러너 풀로 넘기도록 바꿈
- Bazel 빌드가 쓰는 OpenXLA 의존성 고정 리비전을 2026년 10월 20일 커밋 기준으로 갱신함
Hacker News 의견들
구글 Coral USB랑 M.2 장치도 TPU임. 엣지용이라 클라우드 밖에서도 쓸 수 있음.
구글이 Anthropic 같은 큰 고객한테 온프레미스로 TPU를 직접 팔고 있음. Crux AI도 그걸 하는 벤처로 나왔더라.
AWS도 Trainium으로 비슷한 거 냈음. torch-neuronx 저장소 보면 됨.
DeepSeek 추론 엔진 공개랑 관련 있냐고? 학습이랑 추론은 스택이 다른데, 이건 TPU를 외부 사람들한테 익숙하게 만들려는 쪽에 가까워 보임.
클라우드랑 파트너로 TPU를 파니까 공급은 넘칠 거라는 말도 있는데, 아직 그런 기미는 안 보임.
나는 Tenstorrent 가속기용 libtpu 오픈소스 구현을 사이드로 만들고 있음. torchtpu 대부분은 돌아감. pcmoritz/libtt 보면 타일 기반 가속기로 torch를 낮추는 과정이 다 나옴.
HW 세부는 Pallas나 CUDA 커널 레이어에 있으니까, 이제 Jax냐 PyTorch냐는 거의 취향 문제가 된 듯.
TPU는 클라우드에서 빌려 쓸 수 있고, Anthropic이 TPU를 많이 쓰는 걸로 유명함.