环境部署【免费下载链接】ops-multimodal-fusion基于 AscendC 的 PyTorch 自定义多模态算子库项目地址: https://gitcode.com/cann/ops-multimodal-fusion在编译本项目之前请您先参考下面步骤完成基础环境搭建确保已安装NPU驱动、固件和CANN软件Ascend-cann-toolkit等。环境安装本项目提供多种搭建昇腾环境的方式请按需选择。安装方式使用说明使用场景CANNLab一站式开发平台提供在线直接运行的昇腾环境无需手动安装。适用于没有昇腾设备的开发者。DockerDocker镜像是一种高效部署方式已预集成CANN包和必备依赖。适用有昇腾设备需要快速搭建环境的开发者。手动安装手动安装CANN包和基础依赖灵活性高。适用有昇腾设备想体验手动安装CANN包或体验最新master分支能力的开发者。方式1CANNLab对于无昇腾设备的开发者可直接使用CANNLab云开发环境即一站式开发平台该平台为您提供在线可直接运行的昇腾环境环境中已安装必备的驱动固件、软件包和依赖无需手动安装。说明环境默认安装最新商发版CANN包源码下载时注意与软件配套。更多关于开发平台的介绍请参考CANNLab指导。进入开源项目单击CANNLab按钮使用已认证过的华为云账号登录。若未注册或认证请根据页面提示进行注册和认证。根据页面提示创建NPU环境并配置规格启动云开发环境后单击连接 WebIDE进入一站式开发平台。当前开源项目资源默认在/mnt/workspace/gitCode/${gitCode_id}目录下${gitCode_id}表示开发者个人gitCode账号。方式2Docker部署对于有昇腾设备的开发者若您想快速搭建昇腾环境可使用Docker镜像部署。说明镜像文件比较大下载需要一定时间请您耐心等待。关于docker命令的选项介绍可通过docker --help查询。环境默认安装最新商发版CANN包源码下载时注意与软件配套。安装驱动与固件宿主机上昇腾驱动与固件的下载和安装操作请参考《CANN软件安装指南》中准备软件包和安装NPU驱动和固件章节。下载镜像步骤1以root用户登录宿主机。确保宿主机已安装Docker引擎版本1.11.2及以上使用docker --version检查Docker版本若没有请参考Docker官方安装指南。步骤2从昇腾镜像仓库拉取已预集成CANN软件包及所需依赖的镜像。示例如下请自行替换CANN版本号、芯片系列、操作系统、python版本信息。# 以cann:9.1.0-beta.1版本为例 docker pull swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.1.0-beta.1-910b-openeuler24.03-py3.12-devel运行Docker拉取镜像后需要以特定参数启动容器以便容器内能访问宿主的昇腾设备。docker run --name cann_container --device /dev/davinci0 --device /dev/davinci_manager --device /dev/devmm_svm --device /dev/hisi_hdc -v /usr/local/dcmi:/usr/local/dcmi -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi -v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info -v /etc/ascend_install.info:/etc/ascend_install.info -it swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:9.1.0-beta.1-910b-openeuler24.03-py3.12-devel bash参数说明注意事项--name cann_container为容器指定名称便于管理。可自定义。--device /dev/davinci0核心将宿主机的NPU设备卡映射到容器内可指定映射多张NPU设备卡。必须根据实际情况调整davinci0对应系统中的第0张NPU卡。请先在宿主机执行npu-smi info命令根据输出显示的设备号如NPU 0,NPU 1来修改此编号。--device /dev/davinci_manager映射NPU设备管理接口。---device /dev/devmm_svm映射设备内存管理接口。---device /dev/hisi_hdc映射主机与设备间的通信接口。--v /usr/local/dcmi:/usr/local/dcmi挂载设备容器管理接口DCMI相关工具和库。--v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi挂载npu-smi工具。使容器内可以直接运行此命令来查询NPU状态和性能信息。-v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/关键挂载将宿主机的NPU驱动库映射到容器内。--v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info挂载驱动版本信息文件。--v /etc/ascend_install.info:/etc/ascend_install.info挂载CANN软件安装信息文件。--it-i交互式和-t分配伪终端的组合参数。-swr.cn-south-1.myhuaweicloud.com/ascendhub/cann:...指定要运行的Docker镜像。请确保此镜像名和标签tag与你通过docker pull拉取的镜像完全一致。bash容器启动后立即执行的命令。-方式3手动安装对于有昇腾设备的开发者若您想手动搭建昇腾环境请参考下述步骤。安装软件场景1体验master版本能力或基于master版本进行开发安装驱动与固件下载和安装操作请参考《CANN软件安装指南》中准备软件包和安装NPU驱动和固件章节。安装CANN toolkit包请单击下载链接选择最新时间版本并根据产品型号和环境架构下载对应包。# 确保安装包具有可执行权限 chmod x Ascend-cann-toolkit_${cann_version}_linux-${arch}.run # 安装命令 ./Ascend-cann-toolkit_${cann_version}_linux-${arch}.run --install --quiet --install-path${install_path}安装CANN ops包请在同一下载页面下载对应产品型号的ops包安装路径需与toolkit包一致。chmod x Ascend-cann-${soc_name}-ops_${cann_version}_linux-${arch}.run ./Ascend-cann-${soc_name}-ops_${cann_version}_linux-${arch}.run --install --quiet --install-path${install_path}变量含义说明${cann_version}表示CANN包版本号。${arch}表示CPU架构如aarch64、x86_64。${soc_name}表示NPU型号名称。${install_path}表示指定安装路径root用户默认安装在/usr/local/Ascend目录。场景2体验已发布版本能力或基于已发布版本进行开发请访问CANN官网下载中心选择发布版本并根据产品型号和环境架构下载toolkit包和对应产品型号的ops包最后参考网页提供的命令完成安装。安装基础依赖本项目基础依赖如下注意满足版本号要求。python 3.8建议版本 3.10gcc 7.3.0cmake 3.16.0make上述依赖可通过项目脚本一键安装命令如下若遇到不支持系统请参考该文件自行适配。bash install_deps.sh安装PyTorch请访问PyTorch官网根据环境选择合适的安装命令。pip install torch安装torch_npu请访问 torch_npu Releases根据CANN版本、PyTorch版本、Python版本和CPU架构aarch64/x86_64选择对应的whl包下载安装。pip install torch_npu-*.whl安装Python依赖pip install -r requirements.txt环境验证安装完CANN包后需验证环境和驱动是否正常。检查NPU设备npu-smi info检查CANN版本# 查看CANN toolkit包版本信息默认路径安装 cat /usr/local/Ascend/cann/${arch}-linux/ascend_toolkit_install.info # Docker和手动安装场景 cat /home/developer/Ascend/cann/${arch}-linux/ascend_toolkit_install.info # CANNLab场景 # 查看CANN ops包版本信息默认路径安装 cat /usr/local/Ascend/cann/${arch}-linux/ascend_ops_install.info # Docker和手动安装场景 cat /home/developer/Ascend/cann/${arch}-linux/ascend_ops_install.info # CANNLab场景其中${arch}可通过uname -m查询当前架构如aarch64、x86_64。环境变量配置按需选择合适的命令使环境变量生效。# 默认路径安装以root用户为例非root用户将/usr/local替换为${HOME} source /usr/local/Ascend/cann/set_env.sh # 指定路径安装 # source ${install_path}/cann/set_env.sh源码下载下载与CANN版本配套的分支源码命令如下${tag_version}替换为分支标签名。git clone -b ${tag_version} https://gitcode.com/cann/ops-multimodal-fusion.git【免费下载链接】ops-multimodal-fusion基于 AscendC 的 PyTorch 自定义多模态算子库项目地址: https://gitcode.com/cann/ops-multimodal-fusion创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考