01Google 開源 TorchTPU:PyTorch 程式改設定就能跑 TPU,與亞馬遜聯手挑戰輝達
Google 週二宣布 TorchTPU 正式開源,讓以 PyTorch 開發的 AI 應用只要改設定、不必重寫,就能搬到 Google 的 TPU 與 Google Cloud 上執行。這距離亞馬遜推出 Trainium 版 TorchNeuron 只隔一天。Google 表示與 Meta、Hugging Face、vLLM 開發商 Inferact、SGLang 開發商 RadixArk 等合作確保相容,另推出協助搬遷與除錯的「TPU agent suite」,並更新 LiteRT 以支援 PyTorch 模型在手機與筆電上執行。
為何重要PyTorch 據估被約 85% 的 AI 應用採用,原本預設綁定輝達 GPU;兩大雲端同時降低遷移門檻,直接衝擊 CUDA 生態護城河。