Googleは10月20日、米国で開催された「PyTorch Conference 2026」にあわせ、TPU向けの新しいPyTorchバックエンド「TorchTPU」をオープンソースで公開したと発表した。MetaのPyTorchチームと共同開発したもので、コードはGitHub上で公開されている。これによりTPUは、GPU・CPUと並ぶPyTorchの「ネイティブ」なデバイスとして扱えるようになり、既存のPyTorchコードを大きく書き換えることなくTPU上で動かせるようになるという。
Google Cloudの公式ブログによれば、TorchTPUは標準的なPyTorch API・デバッグ用の診断機能・分散処理のプリミティブをそのまま備え、デバッグ向けのeagerモードと、本番環境向けの高速化手段であるtorch.compileの双方に対応する。あわせて、推論エンジンのvLLM(Inferactと共同開発)・SGLang(RadixArkと共同開発)にもTPU向けのネイティブバックエンドが用意されたほか、学習フレームワークのTorchTitanではLlama 3やQwen 3などのレシピが最大8,000基のTPU v7(Ironwood)世代チップで検証済みとされる。Hugging FaceのTransformers v5でも「device_map="tpu"」を指定するだけでTPUへデプロイできるようになったという。
発表にはMeta・Hugging Face・vLLM開発元のInferact・SGLang開発元のRadixArkなど複数の関係者がコメントを寄せており、Meta側はTorchTPUによって自社の大規模言語モデルや広告・レコメンデーション向けワークロードをTPU上で動かせるようになったと説明している。これまでPyTorchをTPUで動かす手段として使われてきた「PyTorch/XLA」との具体的な役割分担についてGoogle Cloud自身の発表は明言していないが、TPUをCUDA同様の「ネイティブデバイス」として扱える点は、NVIDIAのGPUエコシステムへの依存度を下げたい開発者にとって新たな選択肢になりそうだ。
