个人游戏笔记本免费“养龙虾”二用显卡GPU运行OpenClawCUDA的安装与配置Win10下配置WSL2使用CUDA1、windows安装nvidia GPU驱动2、在WSL2中安装CUDA3、添加CUDA Toolkit路径4、关联nvidia-smi5、【解决】errorunable to allocate CUDA0 buffer测试结果系列文章1. 个人游戏笔记本免费“养龙虾”Win10WSL2OpenClaw 部署与配置指南Win10下配置WSL2使用CUDA参考文献1Win10下配置WSL2使用CUDA搭建深度学习环境-腾讯云1、windows安装nvidia GPU驱动根据自己的显卡型号以及操作系统选择对应驱动我这里是RTX 2060操作系统是Win 10 64位。官网上有两种类型的驱动程序一个是GeForce Game Ready 驱动程序另外一个是NVIDIA Studio 驱动程序 。注意我们要选择GeForce Game Ready 驱动程序不要选错了。驱动下载地址NVIDIA GeForce 驱动程序 - N 卡驱动 | NVIDIA安装完驱动后在powershell中输入nvidia-smi可以看到驱动支持的最高CUDA版本。2、在WSL2中安装CUDA进入英伟达官网找到CUDA Tookit下载页面按下图选择对应的版本。根据平台类型选择Linux_x86_64_WSL_Ubuntu 2.0_deb(local)。网页中显示出Ubuntu的执行命令。考虑到网速下载快慢问题可以先用Windows的浏览器下载第一和第三项的文件到d:盘。接着在WSL_Ubuntu 终端中先切换到d盘$ cd /mnt/d/再依次输入指令。这样下载的速度会快些。3、添加CUDA Toolkit路径安装完成后配置对应的环境变量默认是修改.bashrc文件# 1. 打开bash配置文件$nano~/.bashrc# 2. 在文件末尾添加以下内容exportPATH/usr/lib/wsl/lib:$PATHexportLD_LIBRARY_PATH/usr/local/cuda-13.2/lib64:$LD_LIBRARY_PATH# 3. 按CtrlO保存按Enter确认文件名按CtrlX退出# 4. 使配置立即生效$source~/.bashrc4、关联nvidia-smi在上一篇文章中我们在windwos下输入nvidia-smi是可以运行的同样其实在WSL中也可以使用nvidia-smi命令不过WSL的nvidia-smi在 /usr/lib/wsl/lib/目录故我们只需要对/usr/lib/wsl/lib/nvidia-smi进行软链接到/usr/bin/ln-s/usr/lib/wsl/lib/nvidia-smi /usr/bin/nvidia-smi注意一旦系统安装了Windows NVIDIA GPU驱动程序CUDA便可在WSL2中使用。安装在Windows主机上的CUDA驱动程序将在WSL 2内部被模拟为 因此用户切勿在WSL 2内部安装任何NVIDIA GPU Linux驱动程序。这里必须非常小心因为默认的CUDA Toolkit会捆绑驱动程序很容易在默认安装过程中覆盖WSL2的NVIDIA驱动程序。我们建议开发人员使用从CUDA Toolkit下载页面获取的WSL2Ubuntu专用CUDA Toolkit以避免此类覆盖。5、【解决】errorunable to allocate CUDA0 buffer参考文献2error: llama runner process has terminated模型参数过大时会报错error: llama runner process has terminated:error loading mode: unable to allocate CUDAO buffer主要原因是1多 GPU 冲突默认使用集成显卡而非独立显卡。多 GPU 显存分配冲突。解决方法一是禁用集成显卡需在 BIOS 中设置。二是针对双显卡系统集成显卡6GB独立GPU的Ollama专属配置方案确保模型优先使用独立GPU。– 首先打开系统任务管理器查看2个显卡的编号。我的集成显卡是GPU06GB独立GPU的编号是GPU1.– 然后通过设置CUDA_VISIBLE_DEVICES环境变量可以强制Ollama使用独立GPU。# 在WSL2终端中执行# 编辑bashrc文件nano~/.bashrc# 在文件末尾添加以下内容# 6GB独立GPU的编号是1exportCUDA_VISIBLE_DEVICES1exportOLLAMA_GPU_LAYERS10exportOLLAMA_MAX_GPU_MEMORY5GB# 使配置立即生效source~/.bashrc2GPU显存不足解决方法– 选用参数规模较小的模型例如选择qwen3.5:2b而不能选择qwen3.5:4b– 切换到更低量化版本的模型如q2_K或q4_0– 减少GPU_LAYERS值让更多模型层在CPU运行3CPU内存不足解决方法增大系统的虚拟内存。在系统属性窗口的“高级”选项卡中找到“性能”区域点击“设置”按钮在性能选项窗口中切换到“高级”选项卡。 调整虚拟内存在“虚拟内存”区域点击“更改”按钮测试结果打开资源管理器在openclaw中对话时可以看到占用了4.1G的GPU内存GPU和CPU的利用率都在10%以下。如果不配置使用GPU那么CPU的使用率会持续在100%。另外要关闭不必要的软件。否则openclaw也会因为内存不足而崩溃。