安装和部署Hunyuan-A13B需要以下步骤和系统配置:
システム要件
- Python 3.10以降
- 推荐使用NVIDIA A100等高性能GPU(16GB以上显存)
- 支持PyTorch 2.5.1和Hugging Face Transformers库的环境
インストールの手順
- GitHubリポジトリのクローン:
git clone https://github.com/Tencent-Hunyuan/Hunyuan-A13B.git
cd Hunyuan-A13B - 依存ライブラリをインストールする:
pip install torch==2.5.1 transformers
pip install -r requirements.txt - 下载模型权重(可选不同版本):
huggingface-cli download tencent/Hunyuan-A13B-Instruct
- 環境変数の設定:
export MODEL_PATH="tencent/Hunyuan-A13B-Instruct"
- 使用示例代码加载模型并运行推理
この答えは記事から得たものである。Hunyuan-A13B: 超長文文脈と知的推論のための効率的なオープンソース大規模言語モデルについて