Ovis的安装需要以下关键步骤:
- 環境準備:需预先安装Git和Anaconda,创建Python 3.10的conda虚拟环境
- コードフェッチスルー
git clone git@github.com:AIDC-AI/Ovis.git
クローン倉庫 - 依存するインストール:使用requirements.txt安装基础依赖包,建议额外安装Flash Attention加速库
- 验证环节:需确认PyTorch版本(推荐2.4.0)和CUDA环境
运行方式提供两种选择:
- コマンドラインモード:需编写Python脚本加载模型并处理输入输出
- Gradio界面スルー
python ovis/serve/server.py
启动可视化服务
注意:不同参数规模的模型对显存有不同要求,1B模型至少需要4GB显存。
この答えは記事から得たものである。Ovis:画像手がかり語の正確なバックプロパゲーションのための視覚的・テキスト的アライメントモデルについて