探见世界

模型

亚马逊推出原生PyTorch后端TorchNeuron 降低Trainium芯片迁移门槛

2026年10月19日,亚马逊宣布推出专为AWS Trainium芯片设计的原生PyTorch后端TorchNeuron并进入公开测试。该工具基于Apache 2.0协议开源,允许开发者通过极小的配置改动直接运行现有代码,旨在扩大Trainium芯片采用率。

管理员上传的文章候选图片
编辑视觉管理员上传的文章候选图片。图片来源:管理员上传

推出原生后端降低迁移成本

2026年10月19日,亚马逊宣布推出专为AWS Trainium芯片(支持Trainium2和Trainium3)设计的原生PyTorch后端TorchNeuron,并在同日进入公开测试阶段。按计划,亚马逊将于2026年10月20日在北美PyTorch大会上正式开源该工具,相关软件将基于Apache 2.0开源许可证发布并托管在GitHub上。

TorchNeuron允许开发者通过如.to('neuron')等极小的配置更改,直接在Trainium芯片上运行现有的PyTorch代码,消除了针对特定硬件手动重写底层指令的需求。

该集成建立在PyTorch的加速器无关扩展点上,支持eager execution、用于生产优化的torch.compile,以及用于编写自定义内核的Neuron Kernel Interface (NKI)。此外,TorchNeuron还原生支持FSDP2、张量与流水线并行以及FlashAttention。

早期客户采用与落地反馈

亚马逊芯片设计部门Annapurna Labs技术软件副总裁Colin Brace表示:“如果你了解PyTorch,那么你就了解Trainium。”亚马逊官方及媒体报道显示,目前已有涵盖机器人、世界模型、语音AI、药物发现和金融等领域的超过30家早期客户在使用该工具。

早期用户包括Lieber脑部发育研究所,以及语音AI初创公司Cartesia和Deepgram。其中Deepgram称,与GPU基准相比,Trainium每美元处理的音频秒数增加了约60%。

挑战现有生态与市场表现

目前约有85%的AI研究人员和开发者使用PyTorch编写代码。在此背景下,英伟达凭借CUDA软件平台将开发者锁定在其GPU上并主导AI芯片市场,而将现有代码迁移至竞争对手的硬件通常需要数月的工程工作。

媒体分析认为,TorchNeuron是亚马逊等科技巨头试图打破英伟达在AI计算领域垄断地位并扩大Trainium专有芯片采用率的更广泛努力的一部分。在TorchNeuron公告发布后,据媒体报道亚马逊股价在盘中一度上涨达5%。

信息来源(1)

这篇文章对你有帮助吗?