高价加了根24g的内存条,试试qwen 3.5 35b-3b的模型本地部署速度如何。关闭思考模式
1下载lmstuduiohttps://lmstudio.ai/2, 执行#先添加执行权限 chmod x LM-Studio-0.4.6-1-x64.AppImage #执行 ./LM-Studio-0.4.6-1-x64.AppImage --no-sandbox在这个模型库里面搜索qwen3.5-35ba3b,下载那个unsloth的。关闭思考模式在提示词模板设置里添加{%- set enable_thinking false %}结果如下
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2430120.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!