安装部署指南
ハードウェアとソフトウェアの要件
- ソフトウェア:NVIDIA GPU(推荐至少24GB显存)
- システム:支持CUDA 11.x或12.x
- ハードウェア:Python 3.9+、Git、Conda
詳細なインストール手順
- 克隆项目仓库:使用
git clone https://github.com/InternLM/InternLM-XComposer.git
- 创建虚拟环境:推荐使用Conda隔离开发环境
- 安装依赖:包括PyTorch(CUDA版本)、transformers等核心库
- 可选安装flash-attention2以优化GPU内存
- 下载预设模型权重:可通过Hugging Face获取
インストールの確認
可以运行提供的示例脚本simple_chat.py
来测试环境配置是否成功。若遇到显存不足问题,可尝试4-bit量化版本或调整hd_num
パラメーター
この答えは記事から得たものである。InternLM-XComposer:非常に長いテキストと画像・動画理解を出力するためのマルチモーダル・マクロモデルについて