Vorbereitung für den Einbau
Zunächst müssen Sie Ihre Python 3.9-Umgebung konfigurieren, und es wird empfohlen, dass Sie conda zur Verwaltung Ihrer virtuellen Umgebung verwenden.
Installationsschritte
- Klon-Lager: Führen Sie es im Terminal aus
git clone https://github.com/OpenGVLab/InternVL.gitund geben Sie den Katalog ein - Erstellen einer virtuellen Umgebung: Verwendung
conda create -n internvl python=3.9 -yDie Umwelt gestalten - Installation der grundlegenden Abhängigkeiten: Lauf
pip install -r requirements.txtInstallation von Kernbibliotheken
Optionale Montage
- MontageFlash-Attentionum das Denken zu beschleunigen:
pip install flash-attn==2.3.6 - Installieren Sie MMDeploy für die Produktionsbereitstellung:
mim install mmdeploy
Nutzung des multimodalen Dialogs
Nach dem Herunterladen des Modells (z.B. InternVL2_5-8B) können Sie den folgenden Code für den multimodalen Dialog verwenden:
from lmdeploy import pipeline
from lmdeploy.vl import load_image
model = 'OpenGVLab/InternVL2_5-8B'
image = load_image('tiger.jpeg')
pipe = pipeline(model)
response = pipe(('描述这张图片', image))
print(response.text)caveat
Das Modell 8B benötigt ca. 16 GB GPU-Speicher, und bei der Verarbeitung hochauflösender Bilder können weitere Ressourcen erforderlich sein.
Diese Antwort stammt aus dem ArtikelInternVL: Open Source Multimodal Large Models für Bild-, Video- und TextverarbeitungDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie installiert und konfiguriert man InternVL lokal für den multimodalen Dialog?
