Skip to content

AI 框架(PyTorch)

AI 框架是开发者直接编写模型的那一层。昇腾通过适配插件让主流框架运行在 NPU 上,其中 PyTorch 是本平台主推的框架。本页先总览框架支持情况,再聚焦本平台的 PyTorch 用法。

1. AI 框架总览

昇腾对 AI 框架的支持分两类:

框架在昇腾上的形态说明
PyTorch原生 PyTorch + torch_npu 插件生态最广,本平台主推
MindSpore昇腾原生 AI 框架华为自研,对昇腾深度优化

二者都通过 CANN 把计算下发到 昇腾 910。本平台以 PyTorch 为主,MindSpore 作为了解项。

2. 本平台中的 PyTorch

本平台采用 原生 PyTorch + torch_npu(Ascend Extension for PyTorch) 的方式:你几乎可以沿用熟悉的 PyTorch 代码,只需少量改动即可让模型跑在昇腾 NPU 上。

核心改动只有两点:

python
import torch
import torch_npu                 # 1. 引入昇腾适配插件

model = model.to('npu')          # 2. 把设备从 'cuda' 换成 'npu'
data = data.to('npu')

迁移成本低,是 PyTorch 在昇腾上的最大优势。

3. 本章导航

页面内容
torch_npu 简介适配插件的工作方式与定位
安装与版本配套PyTorch ↔ torch_npu ↔ CANN 的版本对应
代码迁移从 CUDA 迁移到 NPU 的改动点
训练推理示例最小可运行示例与调优思路

阅读路线

想直接动手:看 代码迁移训练推理示例。想先理解原理与安装:从 torch_npu 简介 起。

参考资料