这类工具最值得先看的不是功能列表而是能不能在普通环境里稳定跑起来。CUDA 12.2 在线安装的核心价值在于它让 Ubuntu 用户能直接通过官方源或网络安装包快速配置好 GPU 开发环境不用手动下载几个 GB 的离线包再处理依赖冲突。但实际落地时很多人卡在驱动兼容性、环境变量、权限或网络问题上反而比离线安装更耗时。我更建议把第一次测试拆成三步先确认驱动状态再跑在线安装命令最后验证 CUDA 样本。下面按实际落地顺序拆一遍。1. 先确认你的 Ubuntu 环境和显卡驱动状态在线安装 CUDA 12.2 前最该做的不是直接敲安装命令而是先看基础环境是否就绪。很多人一上来就装 CUDA Toolkit结果因为驱动没装、驱动版本太低或系统自带开源驱动冲突导致安装失败或装完无法调用 GPU。1.1 检查当前显卡和驱动信息先看你的机器有没有 NVIDIA 显卡以及驱动是否已安装、是否支持 CUDA 12.2。打开终端运行lspci | grep -i nvidia如果有输出说明系统识别到了 NVIDIA 显卡。接着看驱动nvidia-smi这个命令能显示驱动版本、CUDA 版本注意这里显示的是驱动最高支持的 CUDA 版本不是已安装的 CUDA Toolkit 版本以及显卡状态。例如输出可能类似--------------------------------------------------------------------------------------- | NVIDIA-SMI 535.161.07 Driver Version: 535.161.07 CUDA Version: 12.2 | |------------------------------------------------------------------------------------- | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | || | 0 NVIDIA GeForce RTX 4060 ... Off | 00000000:01:00.0 Off | N/A | | N/A 47C P8 10W / 115W | 4MiB / 8192MiB | 0% Default | | | | N/A | -------------------------------------------------------------------------------------这里Driver Version: 535.161.07和CUDA Version: 12.2表示驱动已支持 CUDA 12.2。如果你的驱动版本较低可能只支持 CUDA 12.0 或更早这时需要先升级驱动。如果nvidia-smi报错command not found说明没安装 NVIDIA 驱动需要先装驱动。1.2 处理系统自带开源驱动冲突Ubuntu 默认使用开源驱动nouveau它会和 NVIDIA 官方驱动冲突。在安装 NVIDIA 驱动前需要先禁用nouveau。编辑黑名单配置sudo nano /etc/modprobe.d/blacklist-nouveau.conf写入blacklist nouveau options nouveau modeset0更新 initramfs 并重启sudo update-initramfs -u sudo reboot重启后验证nouveau是否已禁用lsmod | grep nouveau如果没输出说明已禁用。1.3 安装或升级 NVIDIA 驱动如果没装驱动或驱动版本太低可以通过 Ubuntu 官方源或 NVIDIA 官方源安装。方法一使用 Ubuntu 自带驱动仓库推荐新手sudo apt update sudo ubuntu-drivers devices这个命令会列出推荐驱动版本例如driver : nvidia-driver-535 - third-party free recommended然后安装推荐版本sudo apt install nvidia-driver-535安装后重启sudo reboot方法二使用 NVIDIA 官方最新驱动适合需要特定版本先添加 NVIDIA 官方 PPAsudo add-apt-repository ppa:graphics-drivers/ppa sudo apt update然后查看可用驱动版本apt list nvidia-driver-*选择支持 CUDA 12.2 的版本如 535安装sudo apt install nvidia-driver-535重启后再次运行nvidia-smi确认驱动版本和支持的 CUDA 版本。注意在线安装 CUDA Toolkit 时如果选择包含驱动的安装包会自动安装驱动但容易版本冲突。我更建议先手动装好驱动再装不包含驱动的 CUDA Toolkit。2. 在线安装 CUDA 12.2 的两种路径驱动就绪后就可以安装 CUDA Toolkit 了。在线安装的核心优势是自动处理依赖但要注意网络稳定性。如果下载中途失败可能需要清理部分安装文件再重试。2.1 通过 NVIDIA 官方网络安装包安装这是最直接的方式从 NVIDIA 开发者网站获取安装脚本。打开终端依次执行wget https://developer.download.nvidia.com/compute/cuda/12.2.0/local_installers/cuda_12.2.0_535.54.03_linux.run sudo sh cuda_12.2.0_535.54.03_linux.run关键选择安装时不要勾选驱动运行安装脚本后会进入图形化界面如果是 SSH 或终端是字符界面。这里一定要留意如果已按前面步骤装好驱动取消勾选 Driver 选项只安装 CUDA Toolkit。如果勾选 Driver安装程序会尝试覆盖现有驱动可能引发版本冲突。通常界面会显示[ ] Driver [X] CUDA Toolkit 12.2 [ ] CUDA Samples 12.2 [ ] CUDA Demo Suite 12.2用空格键取消 Driver 选择然后按 Enter 继续。安装程序会从网络下载所需组件耗时取决于网络速度。如果中途失败可以重新运行安装脚本它会尝试继续下载。2.2 通过 NVIDIA 官方仓库安装更适合生产环境另一种更稳定、便于后续升级的方式是配置 NVIDIA CUDA 仓库再用 apt 安装。添加仓库和密钥wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.deb sudo dpkg -i cuda-keyring_1.0-1_all.deb sudo apt update安装 CUDA 12.2 Toolkitsudo apt install cuda-toolkit-12-2这种方式会自动解决依赖且后续可以通过apt upgrade升级补丁版本。注意仓库安装的 CUDA 可能不是最新小版本如 12.2.0 而非 12.2.1但稳定性更高。如果追求特定小版本还是用网络安装包。3. 安装后的环境配置和验证装完 CUDA Toolkit 后很多人的第一个问题是“为什么nvcc --version报错”——这通常是因为环境变量没配置。3.1 设置环境变量CUDA 安装后需要将它的二进制路径和库路径加入系统环境。编辑用户配置文件如~/.bashrc或~/.zshrcnano ~/.bashrc在文件末尾添加export PATH/usr/local/cuda-12.2/bin${PATH::${PATH}} export LD_LIBRARY_PATH/usr/local/cuda-12.2/lib64${LD_LIBRARY_PATH::${LD_LIBRARY_PATH}}保存后加载配置source ~/.bashrc验证nvcc能否识别nvcc --version应输出类似nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2023 NVIDIA Corporation Built on Wed_Nov_22_10:17:15_PST_2023 Cuda compilation tools, release 12.2, V12.2.140 Build cuda_12.2.r12.2/compiler.33567101_03.2 编译和运行 CUDA 样本测试CUDA 安装包通常带样本代码可以用来验证安装是否真正可用。如果通过网络安装包安装样本可能已下载到~/NVIDIA_CUDA-12.2_Samples。如果通过仓库安装可能需要单独安装样本包sudo apt install cuda-samples-12-2样本通常安装在/usr/local/cuda-12.2/samples或/usr/src/cuda-samples-12.2。进入样本目录编译一个简单示例cd /usr/local/cuda-12.2/samples/1_Utilities/deviceQuery sudo make ./deviceQuery如果输出显示显卡信息、CUDA 版本最后有Result PASS说明 CUDA 安装成功。另一个常用测试是带宽测试cd ../bandwidthTest sudo make ./bandwidthTest这个测试能验证 GPU 内存访问是否正常。3.3 检查 CUDA 运行时版本和驱动兼容性有时nvcc版本和运行时版本可能不一致可以通过以下命令检查cat /usr/local/cuda-12.2/version.txt输出应显示 CUDA 12.2 的详细版本号。同时确认驱动支持的 CUDA 版本不低于安装的 Toolkit 版本nvidia-smi查看CUDA Version一行确保它 ≥ 12.2。4. 在线安装常见问题排查在线安装看似简单但网络、权限、依赖或版本冲突都可能导致失败。下面是我自己排查时会优先看的几个点。4.1 安装脚本下载失败或中断网络安装包较大约 3-4 GB如果网络不稳定可能下载中途失败。症状安装脚本运行后卡在下载阶段或报网络错误。解决重试安装脚本它会尝试续传。如果多次失败换用国内镜像源如清华 TUNA 镜像下载完整安装包后本地安装。或者改用仓库安装方式apt 自带断点续传。4.2 安装后 nvcc 命令未找到症状nvcc --version报command not found。排查确认 CUDA 是否真的安装成功检查/usr/local/cuda-12.2/bin目录是否存在是否有nvcc文件。如果目录存在检查环境变量是否配置正确echo $PATH是否包含 CUDA 的 bin 路径。如果环境变量已配置确认当前终端是否重新加载了配置source ~/.bashrc或新开终端。4.3 驱动版本不兼容症状编译样本时报错或运行时提示CUDA error: no kernel image is available for execution on the device。原因驱动版本太旧不支持 CUDA 12.2 的某些功能。解决升级驱动到支持 CUDA 12.2 的版本如 535。4.4 权限问题导致安装失败症状安装过程中提示权限不足或无法写入某些目录。解决使用sudo运行安装脚本。如果通过仓库安装确保 apt 有权限更新包。检查/tmp目录空间是否充足安装需要临时空间。4.5 多个 CUDA 版本共存如果系统已安装其他 CUDA 版本可以通过软链接管理当前使用的版本sudo rm /usr/local/cuda sudo ln -s /usr/local/cuda-12.2 /usr/local/cuda然后环境变量中引用/usr/local/cuda而不是具体版本路径方便切换。5. 生产环境部署建议如果只是个人学习上述步骤足够。但如果要在服务器或长期开发环境中部署还需要考虑以下几点。5.1 选择仓库安装便于维护对于生产环境我更推荐用仓库安装第 2.2 节方式因为可以通过apt update apt upgrade统一升级系统和 CUDA 补丁。依赖关系自动处理减少冲突。安装日志和文件由包管理器管理便于卸载和清理。5.2 配置日志和监控长期运行 CUDA 应用时建议配置GPU 使用监控nvidia-smi的日志输出或使用nvtop等工具。应用日志记录 CUDA 内核启动失败、内存不足等错误。资源限制通过 cgroups 或容器限制单个任务对 GPU 的占用。5.3 容器化部署考虑如果使用 Docker 或 Singularity可以直接使用 NVIDIA 官方 CUDA 镜像FROM nvidia/cuda:12.2.0-devel-ubuntu22.04这样宿主机只需安装驱动CUDA 环境完全在容器内管理避免版本冲突。5.4 定期检查驱动和 CUDA 更新NVIDIA 定期发布驱动安全更新和 CUDA 补丁。设置定期检查sudo apt update apt list --upgradable | grep nvidia apt list --upgradable | grep cuda但生产环境升级前务必在测试环境验证兼容性。我个人更建议先把单任务跑稳再考虑批量和接口。CUDA 12.2 在线安装真正落地时最该盯住的不是功能列表而是驱动兼容性、环境变量和样本测试结果。如果只是学习默认配置够用如果要长期使用就要把日志、监控和升级流程提前整理好。