HuggingFace模型下载

模型下载源

• 异型岛社区版是HuggingFace资源下载网站，为AI开发者提供模型下载服务.网站链接
• 此社区还有企业版, 是需要付费的.

模型下载脚本

# 先下载脚本
wget http://61.133.217.142:20800/download/model_download.py

使用model_download.py下载

pip install huggingface_hub
python model_download.py --repo_id 模型ID
# 例如
python model_download.py --repo_id Qwen/Qwen-7B
# 运行脚本下载模型
python model_download.py --mirror --repo_id bert-base-chinese

模型加载方法

1. 下载完成之后, 模型会保存到本地的当前文件夹下的dataroot文件夹中.
2. AutoModel.from_pretrained的pretrained_model_name_or_path参数指向到本地文件夹

# 以THUDM/chatglm-6b模型为例
# model_path = "THUDM/chatglm-6b" #从huggingface.co装载模型的方法
model_path = "./model/"           #从本地文件夹装载模型的方法
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModel.from_pretrained(model_path,trust_remote_code=True).half().cuda()