Google công bố mở mã nguồn TorchTPU tại PyTorch Conference 2026, đưa TPU thành lựa chọn phần cứng gốc của PyTorch bên cạnh GPU và CPU. Dự án do Google và đội ngũ PyTorch của Meta cùng phát triển.
Mã nguồn TorchTPU đã được đăng trên GitHub. Theo blog chính thức của Google Cloud, mã PyTorch hiện có chỉ cần chỉnh sửa nhỏ để chuyển sang TPU. Các framework vLLM, SGLang, TorchTitan, VeRL và Ray đã được tích hợp.
Với Hugging Face Transformers v5, người dùng có thể triển khai mô hình lên TPU bằng cách truyền tham số device_map=”tpu”. Trong thử nghiệm huấn luyện Qwen 3 8B bằng TorchTitan, mức sử dụng năng lực tính toán của mô hình (MFU) đạt tối đa 52%, với khả năng mở rộng lên 8.192 TPU Ironwood.
Google cũng phối hợp với Red Hat và IBM phát hành llm-d 1.0. LiteRT đồng thời gia nhập hệ sinh thái PyTorch.