Windows 部署 DeepSeek 详细教程

news2025/5/15 13:36:00

一、准备工作

  • 系统要求: 建议Windows 10 22H2 或更高版本,家庭版或专业版
  • 上网环境: 建议科学上网,国内访问部分网站会很慢
  • 设备要求: 内存8G以上、关闭防火墙

二、安装Ollama

  • 官网链接: https://ollama.com/download
  • github链接: https://github.com/ollama/ollama

1、进入官网下载Windows版本(未科学上网,下载可能会很慢,请耐心等待)
在这里插入图片描述

2、双击安装
在这里插入图片描述

3、安装完成后,win+R 输入cmd,在窗口中输入 ollama -v ,输出版本号则代表安装成功
在这里插入图片描述

软件默认安装位置:C:\Users\用户名\AppData\Local\Programs\Ollama
模型默认存放位置:C:\Users\用户名\.ollama\models
日志默认存放位置:C:\Users\用户名\AppData\Local\Ollama

三、Ollama环境变量配置(可选)

参数标识与配置
OLLAMA_MODELS表示模型文件存放目录,默认存放在C盘,可以更改为其他盘(如 D:\ollama\models)
OLLAMA_HOST表示 ollama 服务监听的网络地址,默认为127.0.0.1:11434,想要允许其他电脑访问ollama 服务的话,改成:0.0.0.0:11434,后面端口可以修改
OLLAMA_KEEP_ALIVE表示大模型加载到内存的存活时间,默认5分钟;0代表请求后立即释放、1m代表在内存中保持1分钟、1h代表在内存中保持1小时;建议设置成 24h ,即模型在内存中保持 24 小时,提高访问速度
OLLAMA_NUM_PARALLEL表示模型同时执行的最大并行请求数量,默认无限制,设置为1后,同一时间只能一人访问,其他人需要等待

1、打开 我的电脑-右键属性-高级系统设置-环境变量
2、用户变量点击新增-确定,保存后,需要重启电脑
在这里插入图片描述

其它环境变量配置参数: https://github.com/ollama/ollama/blob/main/envconfig/config.go
在这里插入图片描述


四、运行DeepSeek-R1模型

模型链接: https://ollama.com/library/deepseek-r1:1.5b

提供以下模型参数,根据设备实际情况下载对应模型参数,当前演示下载的1.5b
在这里插入图片描述

1、win+R 输入cmd,先下载模型,再运行模型(也可以直接按照官网方法)
在这里插入图片描述

2、停止模型方法
在这里插入图片描述
以上方法是通过命令行进行对话,如需要web端对话方式,继续往下部署(Page Assist 和 Open WebUI二选一即可)


五、配置web UI 访问(可选)

1、Page Assist使用方法

  • github链接: https://github.com/n4ze3m/page-assist

Ⅰ、Page Assist是浏览器插件,支持Chrome、Firefox、Edge,当前演示会使用Edge,在https://github.com/n4ze3m/page-assist/releases中下载Edge压缩包,并解压到桌面

Ⅱ、运行Edge,点击右上角三个点-扩展-管理扩展,启用开发者模式,加载解压后的文件,然后运行
在这里插入图片描述
在这里插入图片描述

Ⅲ、配置Ollama的服务地址(设置中可以选择中文)
在这里插入图片描述
默认首次运行,会要求你设置Ollama地址,如未出现上述图片,请按照下方设置地址
在这里插入图片描述

Ⅳ、选择模型,配置完成后就可以使用啦
在这里插入图片描述
注:Page Assist如果安装在局域网其他设备上,连接Ollama服务时,需要设置OLLAMA_HOST环境变量才能连接上

2、Open WebUI 使用方法

  • Open WebUI开源地址:https://github.com/open-webui/open-webui
  • Open WebUI官方文档: https://docs.openwebui.com/

UV方式安装

Ⅰ、 安装 uv 工具

  • uv开源地址:https://github.com/astral-sh/uv

Windows打开powershell运行(安装时间比较久,请耐心等待)

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

在这里插入图片描述
在这里插入图片描述

Ⅱ、运行 Open WebUI(首次需要下载很多文件)

运行方法二选一,第一个默认端口8080,第二个指定端口5000

默认端口:8080
$env:DATA_DIR="C:\open-webui\data"; uvx --python 3.11 open-webui@latest serve

指定端口: 5000
$env:DATA_DIR="C:\open-webui\data"; uvx --python 3.11 open-webui@latest serve --port 5000

出现以下内容代表运行成功,通过浏览器访问(设备开机后不会自动运行,需要手动运行,启动过程需要几分钟)
在这里插入图片描述
或如下
在这里插入图片描述
以上命令如执行失败,请重新尝试…

Python方式安装

Ⅰ、下载python并安装(必须使用Python3.11.x版本,以避免出现兼容性问题)

  • Python3下载官网(往下找稳定版3.11的):https://www.python.org/downloads/windows/
    在这里插入图片描述

Ⅱ、创建虚拟环境(会在当前路径下创建openwebui文件夹)

python -m venv openwebui

Ⅲ、激活虚拟环境

openwebui\Scripts\activate

在这里插入图片描述
Ⅳ、安装 Open WebUI

pip install open-webui

在这里插入图片描述
Ⅴ、启用服务

默认端口:8080
open-webui serve

指定端口:5000
open-webui serve --port 5000

后续启动服务只需要执行以下命令,激活虚拟环境,必须在你之前创建虚拟环境路径下执行(设备开机后不会自动运行,需要手动运行,启动过程需要几分钟)

openwebui\Scripts\activate

open-webui serve

在这里插入图片描述
其他安装方法可参考Open WebUI官方文档: https://docs.openwebui.com/getting-started/quick-start/


Ⅰ、浏览器输入设备IP地址和端口,并按照要求设置管理员账户

  • 本地浏览器访问:127.0.0.1:端口号
  • 局域网设备访问:设备IP:端口号

在这里插入图片描述

Ⅱ、点击头像-管理员面板-设置-外部连接-设置Ollama IP和端口,其他禁用,设置完成,就可以正常访问啦
在这里插入图片描述
在这里插入图片描述

注:需要部署Web UI在无外网的局域网中使用,请选择 Page Assist 或 Python方式安装的Open WebUI

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2338083.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

过去十年前端框架演变与技术驱动因素剖析

一、技术演进脉络(2013-2023) 2013-2015:结构化需求催生框架雏形 早期的jQuery虽然解决了跨浏览器兼容性问题(如IE8兼容性处理),但其松散的代码组织方式难以支撑复杂应用开发。Backbone.js的出现首次引入M…

基于微信小程序的中医小妙招系统的设计与实现

hello hello~ ,这里是 code袁~💖💖 ,欢迎大家点赞🥳🥳关注💥💥收藏🌹🌹🌹 🦁作者简介:一名喜欢分享和记录学习的在校大学生…

css button 点击效果

<!DOCTYPE html> <html lang"zh-CN"><head><meta charset"UTF-8"><title>button点击效果</title><style>#container {display: flex;align-items: center;justify-content: center;}.pushable {position: relat…

Foundation Agent:深度赋能AI4DATA

2025年5月17日&#xff0c;第76期DataFunSummit&#xff1a;AI Agent技术与应用峰会将在DataFun线上社区举办。Manus的爆火并非偶然&#xff0c;随着基础模型效果不断的提升&#xff0c;Agent作为大模型的超级应用备受全世界的关注。为了推动其技术和应用&#xff0c;本次峰会计…

Docker--Docker镜像原理

docker 是操作系统层的虚拟化&#xff0c;所以 docker 镜像的本质是在模拟操作系统。 联合文件系统&#xff08;UnionFS&#xff09; 联合文件系统&#xff08;UnionFS&#xff09; 是Docker镜像实现分层存储的核心技术&#xff0c;它通过将多个只读层&#xff08;Image Laye…

SpringAI+DeepSeek大模型应用开发——2 大模型应用开发架构

目录 2.大模型开发 2.1 模型部署 2.1.1 云服务-开放大模型API 2.1.2 本地部署 搜索模型 运行大模型 2.2 调用大模型 接口说明 提示词角色 ​编辑 会话记忆问题 2.3 大模型应用开发架构 2.3.1 技术架构 纯Prompt模式 FunctionCalling RAG检索增强 Fine-tuning …

2.2/Q2,Charls最新文章解读

文章题目&#xff1a;Association of uric acid to high-density lipoprotein cholesterol ratio with the presence or absence of hypertensive kidney function: results from the China Health and Retirement Longitudinal Study (CHARLS) DOI&#xff1a;10.1186/s12882-…

李飞飞团队新作WorldScore:“世界生成”能力迎来统一评测,3D/4D/视频模型同台PK

从古老神话中对世界起源的幻想&#xff0c;到如今科学家们在实验室里对虚拟世界的构建&#xff0c;人类探索世界生成奥秘的脚步从未停歇。如今&#xff0c;随着人工智能和计算机图形学的深度融合&#xff0c;我们已站在一个全新的起点&#xff0c;能够以前所未有的精度和效率去…

如何在米尔-STM32MP257开发板上部署环境监测系统

本文将介绍基于米尔电子MYD-LD25X开发板&#xff08;米尔基于STM35MP257开发板&#xff09;的环境监测系统方案测试。 摘自优秀创作者-lugl4313820 一、前言 环境监测是当前很多场景需要的项目&#xff0c;刚好我正在论坛参与的一个项目&#xff1a;Thingy:91X 蜂窝物联网原型…

MySQL之SQL优化

目录 1.插入数据 2.大批量插入数据 3.order by优化 4.group by优化 5.limit优化 6.count优化 count用法 7.update优化 1.插入数据 如果我们需要一次性往数据库表中插入多条记录&#xff0c;可以从以下三个方面进行优化 第一个:批量插入数据 Insert into tb_test va…

python_level1.2

目录 一、变量 例如&#xff1a;小正方形——>大正方形 【1】第一次使用这个变量&#xff0c;所以说&#xff1a;定义一个变量length&#xff1b; 【2】&#xff1a;是赋值符号&#xff0c;不是等于符号。&#xff08;只有赋值&#xff0c;该变量才会被创建&#xff09;…

Linux、Kylin OS挂载磁盘,开机自动加载

0.实验环境&#xff1a; 1.确定挂载目录&#xff0c;如果没有使用mkdir 进行创建&#xff1a; mkdir /data 2.查看磁盘 lsblk #列出所有可用的块设备df -T #查看磁盘文件系统类型 3.格式化成xfs文件系统 (这里以xfs为例&#xff0c;ext4类似) mkfs.xfs /dev/vdb 4.挂载到…

FPGA-VGA

目录 前言 一、VGA是什么&#xff1f; 二、物理接口 三、VGA显示原理 四、VGA时序标准 五、VGA显示参数 六、模块设计 七、波形图设计 八、彩条波形数据 前言 VGA的FPGA驱动 一、VGA是什么&#xff1f; VGA&#xff08;Video Graphics Array&#xff09;是IBM于1987年推出的…

【嵌入式】【阿里云服务器】【树莓派】学习守护进程编程、gdb调试原理和内网穿透信息

目录 一. 守护进程的含义及编程实现的主要过程 1.1守护进程 1.2编程实现的主要过程 二、在树莓派中通过三种方式创建守护进程 2.1nohup命令创建 2.2fork()函数创建 2.3daemon()函数创建 三、在阿里云中通过三种方式创建守护进程 3.1nohup命令创建 3.2fork()函数创建 …

前沿篇|CAN XL 与 TSN 深度解读

引言 1. CAN XL 标准演进与设计目标 2. CAN XL 物理层与帧格式详解 3. 时间敏感网络 (TSN) 关键技术解析 4. CAN XL + TSN 在自动驾驶领域的典型应用

AI大模型科普:从零开始理解AI的“超级大脑“,以及如何用好提示词?

大家好&#xff0c;小机又来分享AI了。 今天分享一些新奇的东西&#xff0c; 你有没有试过和ChatGPT聊天时&#xff0c;心里偷偷犯嘀咕&#xff1a;"这AI怎么跟真人一样对答如流&#xff1f;它真的会思考吗&#xff1f;" 或者刷到技术文章里满屏的"Token"…

STM32单片机入门学习——第40节: [11-5] 硬件SPI读写W25Q64

写这个文章是用来学习的,记录一下我的学习过程。希望我能一直坚持下去,我只是一个小白,只是想好好学习,我知道这会很难&#xff0c;但我还是想去做&#xff01; 本文写于&#xff1a;2025.04.18 STM32开发板学习——第一节&#xff1a; [1-1]课程简介第40节: [11-5] 硬件SPI读…

如何将 .txt 文件转换成 .md 文件

一、因为有些软件上传文件的时候需要 .md 文件&#xff0c;首先在文件所在的目录中&#xff0c;点击“查看”&#xff0c;然后勾选上“文件扩展名”&#xff0c;这个时候该目录下的所有文件都会显示其文件类型了。 二、这时直接对目标的 .txt 文件进行重命名&#xff0c;把后缀…

Qt 创建QWidget的界面库(DLL)

【1】新建一个qt库项目 【2】在项目目录图标上右击&#xff0c;选择Add New... 【3】选择模版&#xff1a;Qt->Qt设计师界面类&#xff0c;选择Widget&#xff0c;填写界面类的名称、.h .cpp .ui名称 【4】创建C调用接口&#xff08;默认是创建C调用接口&#xff09; #ifnd…

Spring 数据库编程

Spring JDBC 传统的JDBC在操作数据库时&#xff0c;需要先打开数据库连接&#xff0c;执行SQL语句&#xff0c;然后封装结果&#xff0c;最后关闭数据库连接等资源。频繁的数据库操作会产生大量的重复代码&#xff0c;造成代码冗余&#xff0c;Spring的JDBC模块负责数据库资源…