Linux手动安装Ollama完整方案 (国内因网络问题下载不了)

一、问题背景

阿里云ECS等国内服务器因网络限制，直接通过官方脚本/镜像源下载Ollama安装包会出现「连接超时」「SSL错误」「文件截断」等问题，本文提供「本地下载+服务器手动安装」的终极解决方案，适配CentOS/RHEL/Debian/Ubuntu系统。

二、前置准备

服务器环境：Linux x86_64（amd64）架构，已开启SSH登录，拥有root权限；
本地工具：可访问GitHub的电脑（Windows/Mac）、SFTP工具（FileZilla）或scp命令（Linux/Mac本地）；
服务器磁盘：至少预留4GB空间（含安装包+模型缓存）。

三、安装步骤

步骤1：本地下载Ollama安装包

打开本地电脑浏览器，访问Ollama官方GitHub发布页，下载对应版本的Linux安装包：

官方地址（推荐）：https://github.com/ollama/ollama/releases/download/v0.13.2/ollama-linux-amd64.tgz

✅ 验证文件完整性：下载后的安装包大小约2G，若文件过小（几KB），说明下载失败，换链接重新下载。

步骤2：上传安装包到服务器

方式A：scp命令（本地为Linux/Mac）

打开本地终端，执行以下命令（替换服务器IP和本地文件路径）：

scp /本地下载路径/ollama-linux-amd64.tgz root@你的服务器IP:/root/

方式B：Tabby/FileZilla（本地为Windows）

步骤3：服务器端解压安装

登录服务器终端，执行以下命令：

# 1. 确认安装包已上传（能看到文件则成功）
ls -lh /root/ollama-linux-amd64.tgz

# 2. 创建Ollama安装目录
mkdir -p /usr/local/lib/ollama

# 3. 解压安装包（保留完整目录结构）
tar zxf /root/ollama-linux-amd64.tgz -C /usr/local/lib/ollama

# 4. 创建全局软链接（关键：适配新版Ollama的bin目录）
ln -sf /usr/local/lib/ollama/bin/ollama /usr/local/bin/ollama

# 5. 验证安装（输出版本号则解压成功）
ollama --version

步骤4：创建systemd服务（解决service not found）

手动安装的Ollama无默认系统服务，需手动创建ollama.service：

# 1. 写入服务配置文件
cat > /etc/systemd/system/ollama.service &lt;&lt; EOF
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"

[Install]
WantedBy=multi-user.target
EOF

# 2. 重新加载systemd配置
systemctl daemon-reload

# 3. 启动Ollama服务
systemctl start ollama

# 4. 设置开机自启
systemctl enable ollama

# 5. 检查服务状态（显示running即为成功）
systemctl status ollama

四、验证安装

执行以下命令，确认Ollama完全可用：

# 1. 查看版本（无连接失败提示）
ollama --version

# 2. 测试拉取轻量模型（验证服务正常）
ollama run qwen2:0.5b  # 300MB轻量模型，适合快速测试

✅ 成功标志：模型拉取完成后，进入>>> 交互界面，输入问题可正常回复。

五、优化建议

模型选择：优先用轻量模型测试，避免占用过多磁盘/内存：qwen2:0.5b~300MB纯测试/极低资源场景
模型管理：删除不用的模型释放空间：ollama rm 模型名称 # 示例：ollama rm llama3:8b-instruct-q4_0
端口开放：若需公网访问Ollama，开放11434端口：# CentOS/RHEL firewall-cmd --add-port=11434/tcp --permanent firewall-cmd --reload # 阿里云控制台：安全组添加11434端口入站规则

六、总结

本方案核心是绕开服务器境外网络限制，通过「本地下载+手动上传」解决安装包获取问题，再补全系统服务配置，确保Ollama稳定运行。该方法适配所有国内服务器（阿里云/腾讯云/华为云），解决官方脚本安装失败的核心痛点。