1. 什么是 OllamaOllama 是一个开源项目它允许用户在本地计算机上轻松运行、管理和部署大型语言模型LLM。它提供了一个简单的命令行界面可以快速下载、运行和与各种开源模型如 Llama、Mistral、Gemma 等进行交互无需复杂的配置。2. 安装前准备2.1下载Ollama Linux 系统安装包https://ollama.com/download/ollama-linux-amd64.tgz无法正常访问2.2打开迅雷下载器复制下面命令自行下载安装包bash curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz3. 安装方法3.1解压Ollama到/usr文件夹sudo tar -xvf ollama-linux-amd64.tgz -C /usrpsWSL可以直接访问Windows文件系统C、D等盘符映射在/mnt/c /mnt/d 路径上如ollama安装包放在d盘下可以cp /mnt/d/ollama-linux-amd64.tgz ~/复制到Ubuntu的用户home内然后进行解压命令3.2启动ollama执行命令ollama serve按ctrlc退出ollama运行3.3创建ollama运行所用用户sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollamasudo usermod -a -G ollama $(whoami)3.4配置ollama为系统服务方便启动停止创建新文件sudo vim /etc/systemd/system/ollama.service将下面内容保存到文件内[Unit] DescriptionOllama Service Afternetwork-online.target [Service] ExecStart/usr/bin/ollama serve Userollama Groupollama Restartalways RestartSec3 EnvironmentPATH$PATH [Install] WantedBymulti-user.target3.5执行如下命令生效sudo systemctl daemon-reload3.6命令使用sudo systemctl enable ollama 开启ollama开机自启sudo systemctl disable ollama 关闭ollama开机自启sudo systemctl start ollama 启动ollamasudo systemctl status ollama 查看ollama运行状态sudo systemctl stop ollama 停止ollama4. 启动与验证4.1 启动 Ollama 查看运行状态sudo systemctl start ollamasudo systemctl status ollama4.2下载模型文件ollama pull deepseek-r1:7bollama pull qwen2:7b4.3在命令启动模型使用ollama run deepseek-r1:7b按CtrlD可以退出交互模式。5. 基本使用5.1 运行模型# 运行指定模型 ollama run model-name 例如 ollama run mistral ollama run gemma:2b5.2 管理模型# 列出已下载的模型 ollama list 拉取下载新模型 ollama pull model-name 删除模型 ollama rm model-name5.3 作为服务运行API 模式Ollama 也提供 REST API可以像 OpenAI API 一样被调用。启动服务模式OLLAMA_HOST0.0.0.0:11434 ollama serve然后你就可以通过http://localhost:11434访问 API。