1 安装模块

魔塔社区提供了下载的模块，如下：

pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple 

2 模型下载

from modelscope import snapshot_download
model_dir=snapshot_download('LLM-Research/Meta-Llama-3-8B',cache_dir=r'D:\models\maidalun1020')

参数为模型的名称和下载的地址。

3 本地使用

from sentence_transformers import SentenceTransformer
model = SentenceTransformer(r'D:\models\maidalun1020')