亚马逊开源 TorchNeuron，让 PyTorch 代码直接跑在 Trainium 芯片上

摘要

AWS 与 PyTorch 项目发布开源的原生 PyTorch 后端 TorchNeuron，将 AWS Trainium 芯片当作标准 PyTorch 设备使用。只需把设备指定改为 neuron 一行代码，现有 PyTorch 模型和库即可直接在 Trainium2 和 Trainium3 上运行，并覆盖 eager 执行、torch.compile 以及自定义内核接口。代码将于 10 月 20 日以 Apache 2.0 许可的公开测试版上线 GitHub。其目标是让研究者在保留熟悉工具的同时拥有更多芯片选择。

与我们工作的关联

如果替代芯片能顺畅接入事实标准 PyTorch 生态，实验成本与基础设施选择都会改变。在以英伟达为中心的 AI 基础设施市场，开源软件正成为更尖锐的竞争阵地。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。