Zugang aus Übersee: www.kdjingpai.com
Ctrl + D Lesezeichen für diese Seite
Derzeitige Position:Abb. Anfang " AI-Antworten

如何快速部署BGE-VL-MLLM-S1模型进行图像检索?

2025-08-30 1.1 K

部署BGE-VL-MLLM-S1主要分为四个步骤:

  1. Vorbereitung der Umwelt: 创建Python3.10虚拟环境,安装transformers==4.41.2和sentencepiece
  2. Modellbeladung:
    from transformers import AutoModel, AutoProcessor
    model = AutoModel.from_pretrained('BAAI/BGE-VL-MLLM-S1', trust_remote_code=True)
    processor = AutoProcessor.from_pretrained(model_name, trust_remote_code=True)
  3. Eingangsverarbeitung: 使用processor同时处理查询图像和文本,注意设置q_or_c参数区分查询/候选数据
  4. Berechnung der Ähnlichkeit:
    query_embs = model(**query_inputs).hidden_states[-1][:, -1, :]
    scores = torch.matmul(query_embs, candi_embs.T)

关键细节:必须使用GPU加速(需16GB+显存),处理文本时要包含任务指令模板,相似度计算前需对向量做L2归一化。

Empfohlen

Sie können keine AI-Tools finden? Versuchen Sie es hier!

Geben Sie einfach das Schlüsselwort Barrierefreiheit Bing-SucheDer Bereich KI-Tools auf dieser Website bietet eine schnelle und einfache Möglichkeit, alle KI-Tools auf dieser Website zu finden.

zurück zum Anfang

de_DEDeutsch