当前位置：首页 » AI答疑

如何实现Transformers框架的离线使用？有哪些注意事项？

2025-08-23

457

实现Transformers离线使用需要以下步骤：

预先下载模型：
from huggingface_hub import snapshot_download snapshot_download(repo_id="meta-llama/Llama-2-7b-hf", repo_type="model")
启用离线模式：
设置环境变量：export HF_HUB_OFFLINE=1
加载本地模型：
model = LlamaForCausalLM.from_pretrained("./path/to/local/directory", local_files_only=True)

注意事项：

快速查询站内AI工具