Linux下Ollama模型存储路径自定义指南:从安装到迁移(含deepseek部署)
Linux下Ollama模型存储路径自定义指南从安装到迁移含deepseek部署当本地磁盘空间告急或需要将AI模型集中存储时Linux用户常面临如何安全迁移Ollama模型数据的挑战。本文将手把手带你完成从自定义安装路径到模型迁移的全流程特别针对deepseek等大型语言模型的部署场景。1. 准备工作与环境配置在开始前请确保已准备好目标存储设备如外接硬盘或NAS并通过lsblk命令确认挂载点。假设我们计划将模型存储在/mnt/nas/ollama_models目录该路径对应一块4TB的机械硬盘。首先创建基础目录结构sudo mkdir -p /mnt/nas/ollama_models/{bin,data}关键目录说明bin存放可执行文件data存储模型文件设置正确的权限至关重要推荐使用以下组合sudo chown -R $USER:$USER /mnt/nas/ollama_models sudo chmod -R 755 /mnt/nas/ollama_models注意避免直接使用777权限应先通过groups命令确认用户所属组2. 自定义安装Ollama从GitHub下载最新版Ollama时建议使用wget直接保存到目标位置wget https://github.com/ollama/ollama/releases/download/v0.1.0/ollama-linux-amd64 \ -O /mnt/nas/ollama_models/bin/ollama赋予可执行权限并验证版本chmod x /mnt/nas/ollama_models/bin/ollama /mnt/nas/ollama_models/bin/ollama --version为方便使用创建符号链接到系统路径sudo ln -s /mnt/nas/ollama_models/bin/ollama /usr/local/bin/ollama3. 系统服务配置技巧创建systemd服务文件时需要特别注意环境变量传递。以下是经过优化的服务配置[Unit] DescriptionOllama Service Afternetwork-online.target RequiresMountsFor/mnt/nas [Service] ExecStart/usr/local/bin/ollama serve EnvironmentOLLAMA_MODELS/mnt/nas/ollama_models/data EnvironmentHOME/mnt/nas/ollama_models User%i Group%i Restarton-failure RestartSec5s [Install] WantedBymulti-user.target关键改进点添加RequiresMountsFor确保存储设备就绪使用%i通配符实现用户隔离显式设置HOME环境变量启用服务的完整流程sudo systemctl daemon-reload sudo systemctl enable --now ollama$(whoami)4. 模型迁移与验证查找现有模型位置时推荐结合du命令按大小排序find ~/.ollama -type f -exec du -h {} | sort -rh | head -10迁移操作建议分三步进行停止服务systemctl --user stop ollama使用rsync安全复制rsync -avzP ~/.ollama/models/ /mnt/nas/ollama_models/data/创建符号链接mv ~/.ollama/models ~/.ollama/models.bak ln -s /mnt/nas/ollama_models/data ~/.ollama/models验证deepseek模型是否可用ollama run deepseek-r1:7b 请用Markdown格式输出快速排序的Python实现5. 高级存储方案对于企业级部署可以考虑以下优化方案方案类型实现方式适用场景LVM扩展pvcreatevgextend动态扩容存储池NFS共享/etc/exports配置多节点共享模型符号链接ln -s分层存储SSDHDD混合架构针对NAS存储的特别优化# 增加文件系统缓存 sudo mount -o remount,size4G /mnt/nas # 优化rsync传输 alias ollama-syncrsync -avzP --bwlimit50m --progress遇到权限问题时可检查audit日志sudo ausearch -m avc -ts recent | grep ollama6. 日常维护与监控建议创建定期维护脚本/usr/local/bin/ollama-maintenance#!/bin/bash # 检查存储空间 df -h /mnt/nas # 验证模型完整性 find /mnt/nas/ollama_models/data -name *.bin -type f \ -exec shasum {} /tmp/ollama_checksums.txt # 清理临时文件 find /mnt/nas/ollama_models/data -name *.tmp -mtime 7 -delete添加cron任务每周自动运行(crontab -l 2/dev/null; \ echo 0 3 * * 1 /usr/local/bin/ollama-maintenance) | crontab -对于deepseek等大模型可以设置下载限速防止带宽占满ollama pull --limit-rate 10M deepseek-r1:70b
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2421130.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!