【熟练】客户端命令详解
3.1 run 命令run命令主要用于运行一个大模型命令格式是ollama run MODEL[:Version] [PROMPT] [flags] 比如运行通义千问命令 ollama run qwen2:0.5b[:Version] 可以理解成版本而版本信息常常以大模型规模来命名可以不写不写则模式成latestollama run qwen2 等同 ollama run qwen2:latest[PROMPT] 参数是用户输入的提示词如果带有此参数则run命令会执行了输入提示词之后即退出终端即只对话一次。[rootbogon ~]# ollama run qwen2:0.5b 您好 您好有什么问题我可以帮助您 [rootbogon ~]#[flags] 指定运行时的参数Flags: --format string 指定运行的模型输出格式 (比如. json) --insecure 使用非安全模比如在下载模型时会忽略https的安全证书 --keepalive string 指定模型在内存中的存活时间 --nowordwrap 关闭单词自动换行功能 --verbose 开启统计日志信息例如在启动时增加 --verbose参数则在对话时自动增加统计token信息[rootbogon ~]# ollama run qwen2:0.5b --verbose 您好 欢迎光临我可以为您提供帮助。有什么问题或需要帮助的地方 total duration: 1.229917477s load duration: 3.027073ms prompt eval count: 10 token(s) prompt eval duration: 167.181ms prompt eval rate: 59.82 tokens/s eval count: 16 token(s) eval duration: 928.995ms eval rate: 17.22 tokens/s 3.2 show 命令不用运行大模型查看模型的信息与之前所学的/show功能类似。[rootbogon ~]# ollama show -h Show information for a model Usage: ollama show MODEL [flags] Flags: -h, --help 查看使用帮助 --license 查看模型的许可信息 --modelfile 查看模型的制作源文件Modelfile --parameters 查看模型的内置参数信息 --system 查看模型的内置Sytem信息 --template 查看模型的提示词模版 例如查看提示词模版[rootbogon ~]# ollama show qwen2 --template {{ if .System }}|im_start|system {{ .System }}|im_end| {{ end }}{{ if .Prompt }}|im_start|user {{ .Prompt }}|im_end| {{ end }}|im_start|assistant {{ .Response }}|im_end|3.3 pull 命令查询模型名称的网站https://ollama.com/从远程下载一个模型命令格式是ollama pull MODEL[:Version] [flags][:Version] 可以理解成版本但在这里理解成大模型规模可以不写不写则模式成latestollama pull qwen2 等同 ollama pull qwen2:latest[flags] 参数目前只有一个--insecure参数用于来指定非安全模式下载数据ollama pull qwen2 --insecure3.4 list/ls 命令查看本地下载的大模型列表也可以使用简写ls[rootbogon ~]# ollama list NAME ID SIZE MODIFIED qwen2:latest e0d4e1163c58 4.4 GB 10 minutes ago deepseek-coder:latest 3ddd2d3fc8d2 776 MB 3 hours ago qwen2:0.5b 6f48b936a09f 352 MB 8 hours ago [rootbogon ~]# ollama ls NAME ID SIZE MODIFIED qwen2:latest e0d4e1163c58 4.4 GB 10 minutes ago deepseek-coder:latest 3ddd2d3fc8d2 776 MB 3 hours ago qwen2:0.5b 6f48b936a09f 352 MB 8 hours ago列表字段说明NAME名称ID大模型唯一IDSIZE大模型大小MODIFIED本地存活时间3.5 ps 命令查看当前运行的大模型列表PS命令没其它参数[rootbogon ~]# ollama ps NAME ID SIZE PROCESSOR UNTIL deepseek-coder:latest 3ddd2d3fc8d2 1.3 GB 100% CPU About a minute from now列表字段说明NAME大模型名称ID唯一IDSIZE模型大小PROCESSOR资源占用UNTIL运行存活时长3.6 rm 命令删除本地大模型RM命令没其它参数[rootlocalhost system]# ollama ls NAME ID SIZE MODIFIED qwen2:latest e0d4e1163c58 4.4 GB 16 hours ago deepseek-coder:latest 3ddd2d3fc8d2 776 MB 19 hours ago qwen2:0.5b 6f48b936a09f 352 MB 24 hours ago [rootlocalhost system]# ollama rm qwen2:0.5b deleted qwen2:0.5b [rootlocalhost system]# ollama ls NAME ID SIZE MODIFIED qwen2:latest e0d4e1163c58 4.4 GB 16 hours ago deepseek-coder:latest 3ddd2d3fc8d2 776 MB 19 hours ago [rootlocalhost system]#
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2445578.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!