在Ubuntu 18无网环境中部署Ollama与DeepSeek R1的完整指南老旧服务器往往面临系统版本过时、网络隔离等现实约束但这并不妨碍我们挖掘其剩余价值。本文将手把手带您完成Ubuntu 18系统下的离线AI助手部署重点解决无网环境带来的特殊挑战。1. 环境准备与Ollama离线安装1.1 系统兼容性检查首先确认服务器基础环境uname -m # 查看CPU架构 lsb_release -a # 确认系统版本 free -h # 检查内存容量 nvidia-smi # GPU信息如有对于Ubuntu 18这类较旧系统需特别注意GLIBC版本要求≥2.27GPU驱动兼容性NVIDIA 470或AMD ROCm 5.x磁盘空间建议预留50GB以上1.2 手动安装Ollama由于无法使用官方安装脚本我们需要分步操作下载离线包从GitHub Releases获取对应架构的压缩包如ollama-linux-amd64.tgz通过U盘或内网传输到目标服务器解压部署sudo tar -xzf ollama-linux-amd64.tgz -C /usr/local/bin sudo chmod x /usr/local/bin/ollama配置系统服务# /etc/systemd/system/ollama.service [Unit] DescriptionOllama Service Afternetwork-online.target [Service] ExecStart/usr/local/bin/ollama serve Userollama Groupollama Restartalways EnvironmentOLLAMA_HOST0.0.0.0:11434 EnvironmentOLLAMA_MODELS/data/ollama/models [Install] WantedBymulti-user.target权限设置sudo useradd -r -s /bin/false ollama sudo mkdir -p /data/ollama/models sudo chown -R ollama:ollama /data/ollama2. DeepSeek R1模型部署实战2.1 模型文件准备推荐使用GGUF量化版本以节省资源32B参数模型Q4量化约需24GB显存7B参数模型Q4量化仅需6GB显存文件结构示例/data/ollama/models/ └── deepseek-r1-32b-q4 ├── model.gguf └── ModelfileModelfile内容示例FROM ./model.gguf PARAMETER num_ctx 4096 PARAMETER num_gqa 82.2 模型导入与验证ollama create deepseek-r1 -f /data/ollama/models/deepseek-r1-32b-q4/Modelfile ollama list # 验证模型加载常见问题处理显存不足尝试更低量化级别如Q3或更小模型段错误检查GLIBC版本必要时手动编译依赖库加载缓慢确保模型文件位于本地存储非NFS3. Open WebUI的无网适配方案3.1 容器化部署技巧使用预构建的Docker镜像docker pull dyrnq/open-webui:main docker run -d \ -p 31425:8080 \ --add-hosthost.docker.internal:host-gateway \ -v /data/ollama/webui:/app/backend/data \ -e OLLAMA_BASE_URLhttp://host.docker.internal:11434 \ -e WEBUI_SECRET_KEYlocal_development \ -e DISABLE_MODEL_FETCHtrue \ --name webui \ dyrnq/open-webui:main关键环境变量说明变量名作用无网环境建议值DISABLE_MODEL_FETCH禁用模型检测trueWEBUI_SECRET_KEY会话加密密钥随机字符串OLLAMA_API_DEBUG调试模式false3.2 白屏问题根治方案通过修改容器内配置彻底解决docker exec -it webui bash sed -i s/check_model_updates: true/check_model_updates: false/ /app/backend/config.yml exit docker restart webui4. 性能优化与生产级调整4.1 GPU资源分配策略多GPU环境下指定设备export CUDA_VISIBLE_DEVICES0,1 # 使用前两块GPU ollama serve /var/log/ollama.log 21 监控GPU使用情况watch -n 1 nvidia-smi4.2 内存优化配置在Modelfile中添加PARAMETER numa true # NUMA优化 PARAMETER low_vram true # 低显存模式 PARAMETER mmap true # 内存映射4.3 服务自愈方案配置systemd自动重启# /etc/systemd/system/ollama.service [Service] RestartSec5s StartLimitInterval60 StartLimitBurst10日志轮转配置# /etc/logrotate.d/ollama /var/log/ollama.log { daily rotate 7 missingok notifempty compress }5. 安全加固与访问控制5.1 网络隔离方案配置防火墙规则sudo ufw allow from 192.168.1.0/24 to any port 11434 # 仅内网访问Ollama sudo ufw allow from 127.0.0.1 to any port 31425 # 仅本地访问WebUI5.2 认证层添加WebUI启用基础认证docker run -e ENABLE_AUTHtrue \ -e WEBUI_AUTH_SECRETyour_secure_password \ ...其他参数...5.3 模型访问控制通过Ollama策略文件限制访问# /etc/ollama/policy.json { model_access: { deepseek-r1: [group:researchers] } }