Environment
离线推理环境准备¶
本教程仅涉及MindOCR在Atlas 300系列推理芯片离线推理环境准备。
1. 版本配套关系表¶
搭建推理环境请参考版本配套关系，推荐使用MindSpore 2.2.14版本进行推理。
不同芯片型号 Ascend Driver和 Firmware使用的版本不一定一样，请参考CANN 包 版本下载对应芯片使用的Driver和 Firmware。
下面我们以 Atlas 300I 推理卡 (Model: 3010) X86 CPU架构为例介绍安装版本匹配关系，下面的安装章节也会以这个场景为例，其他芯片及CPU架构可参考这个过程进行安装。
| MindSpore | Driver | Firmware | CANN | MindOCR |
|---|---|---|---|---|
| 2.2.14 | 23.0.0 | 7.1.0.3.220 | 7.0.0.beta1 | v0.4.0 |
其他MindSpore and Ascend 软件匹配关系请参考 MindSpore 安装。
2. Ascend 环境安装¶
昇腾AI处理器配套软件包有两个版本，商用版和社区版。商用版仅供商业客户使用，下载受限；社区版本可自由下载，以下例子均使用社区版本。
本章使用MindSpore2.2.14配套的Ascend配套软件包，其他版本请参考安装昇腾AI处理器配套软件包 小节进行安装。
| software | version | package name | download |
|---|---|---|---|
| Driver | 23.0.0 | A300-3010-npu-driver_23.0.0_linux-x86_64.run | link |
| Firmware | 7.1.0.3.220 | A300-3010-npu-firmware_7.1.0.3.220.run | link |
| CANN nnae | 7.0.0.beta1 | Ascend-cann-nnae_7.0.0_linux-x86_64.run | link |
| CANN kernels(可选) | 7.0.0.beta1 | Ascend-cann-kernels-310p_7.0.0_linux.run | link |
安装¶
# Note: When installing a new machine, install the driver first and then the firmware.
# When the scenario of upgrade, install the firmware first and then the driver.
bash A300-3010-npu-driver_23.0.0_linux-x86_64.run --full
bash A300-3010-npu-firmware_7.1.0.3.220.run --full
bash Ascend-cann-nnae_7.0.0_linux-x86_64.run --install
bash Ascend-cann-kernels-310p_7.0.0_linux.run --install
pip uninstall te topi hccl -y
pip install sympy
pip install /usr/local/Ascend/nnae/latest/lib64/te-*-py3-none-any.whl
pip install /usr/local/Ascend/nnae/latest/lib64/hccl-*-py3-none-any.whl
reboot
配置环境变量¶
source /usr/local/Ascend/nnae/set_env.sh
3. MindSpore 安装¶
pip install mindspore==2.2.14
# 查看版本号，离线推理MindSpore仅使用CPU
python -c "import mindspore;mindspore.set_context(device_target='CPU');mindspore.run_check()"
4. MindSpore Lite 安装¶
| software | version | package name | download |
|---|---|---|---|
| 推理工具包 | 2.2.14 | mindspore-lite-2.2.14-linux-{arch}.tar.gz | link |
| Python 接口 Wheel安装包 | 2.2.14 | mindspore_lite-2.2.14-{python_version}-linux_{arch}.whl | link |
推理工具包安装时直接解压即可，并注意设置环境变量：
tar -xvf mindspore-lite-2.2.14-linux-{arch}.tar.gz
cd mindspore-lite-2.2.14-linux-{arch}/
export LITE_HOME=${PWD} # 推理工具tar包解压后实际路径
export LD_LIBRARY_PATH=$LITE_HOME/runtime/lib:$LITE_HOME/runtime/third_party/dnnl:$LITE_HOME/tools/converter/lib:$LD_LIBRARY_PATH
export PATH=$LITE_HOME/tools/converter/converter:$LITE_HOME/tools/benchmark:$PATH
如果使用python接口，使用pip安装所需的whl包
pip install mindspore_lite-2.2.14-{python_version}-linux_{arch}.whl
5. 安装 MindOCR¶
git clone https://github.com/mindspore-lab/mindocr.git
cd mindocr
pip install -e .
使用
-e代表可编辑模式，可以帮助解决潜在的模块导入问题。