codegeex2-6b-int4                模型文件

        CodeGeeX2                          仓库文件地址

        CodeGeeX2                          推理教程

        

conda create -n codegeex2 python=3.10 -y

conda activate codegeex2

pip install -r requirements.txt -i https://pypi.mirrors.ustc.edu.cn/simple 

启动 Gradio DEMO：

python ./demo/run_demo.py

启动FAST API:

python ./demo/fastapicpu.py