Google开源TorchTPU，让AI应用更容易迁移至自家TPU；亚马逊也推出TorchNeuron，挑战英伟达的软件与芯片优势。
周二，Google 宣布其期待已久的 PyTorch 版本 TorchTPU 已作为开源项目推出。此举让 Google 加入亚马逊的行列，试图打破英伟达在 AI 行业的强势地位：目前大多数 AI 应用默认都为英伟达芯片，也就是 GPU 编写。
PyTorch 是广受欢迎的开源工具包，AI 应用开发者和初创公司用它构建、训练和运行 AI 模型。据一些统计，它被约 85% 的 AI 应用使用。PyTorch 最初由 Meta（当时名为 Facebook）于 2016 年开发，那时还没人预料到大型语言模型会改变世界。彼时英伟达 GPU 已是 AI 研究的标准硬件，因此 PyTorch 的许多功能都专门围绕它们构建。2022 年，Meta 将 PyTorch 移交给 Linux 基金会；这是一家管理多个重要开源项目的非营利组织。
Google 的 TorchTPU 可让 AI 应用运行在 Google 自研的 AI 芯片 TPU（张量处理单元）上。它也让现有 PyTorch 应用更容易迁移到 TPU，进而迁移至 Google Cloud。开发者只需更改一项配置，无需重写应用代码。
亚马逊周一也发布了类似消息，推出自家的 PyTorch 版本 TorchNeuron。它可以让 AI 应用无需重写代码，就迁移到亚马逊自研的 Trainium 芯片和 AWS。亚马逊还表示，将进一步削弱英伟达对 PyTorch 的控制：公司正向 PyTorch 主项目提交代码，把多项功能与英伟达芯片解耦，让框架默认能够更开放地支持各种硬件。
不过，Google 在几个方面可能更进一步。Google 表示，公司直接与 Meta、Hugging Face、Inferact（vLLM 的开发者）、RadixArk（SGLang 的开发者）等合作，确保 TorchTPU 的功能和代码库能够与这些热门 AI 开发工具良好协作，达到原版 PyTorch 的兼容水平。
这家搜索巨头还推出了专门的 TPU 智能体工具套件，帮助开发者把应用迁移到 Google 芯片和云平台，并在过程中排查错误。Google 也更新了热门工具 LiteRT，使其更好地支持运行在手机、笔记本电脑和嵌入式设备上的 PyTorch AI 应用。
这并不意味着 AI 应用开发者会因为迁移到其他芯片和云平台变得容易，就立刻大规模放弃英伟达硬件。但显然，亚马逊和 Google 正在努力削弱英伟达的优势。
来源：TechCrunch
