Python 3.13 + CUDA 13.0编译轮子
核心工具链安装1、安装 Visual Studio 2022 (勾选 “使用 C 的桌面开发”)2、安装 CUDA Toolkit 13.0环境变量注入在终端执行确保编译器能精准定位 CUDA 路径set CUDA_PATHD:\Program Files\NVIDIA_GPU_Computing_Toolkit\v13 set PATH%CUDA_PATH%\bin;%CUDA_PATH%\libnvvp;%PATH%配置编译参数# 开启 CUDA、指定 50 系显卡适配架构 (90)、开启 AVX2 加速 set CMAKE_ARGS-DGGML_CUDAON -DCMAKE_CUDA_ARCHITECTURES90 -DLLAMA_AVX2ON # 限制并发线程数如 8防止内存溢出 set MSBUILD_P_PARAMETERS/p:CL_MPCount8原地安装测试也可以不做这一步直接编译轮子pip install . --verbose编译轮子1、准备打包工具pip install scikit-build-core2、生成离线轮子# --no-build-isolation 是核心强制使用你修改过的源码和已有的编译缓存 pip wheel . --no-deps --no-build-isolation --wheel-dir ./dist
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2451859.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!