当前位置：首页 » AI答疑

怎样降低大规模文档索引时的GPU资源消耗？

2025-08-30

1.3 K

资源优化方案

HippoRAG2通过三个技术创新实现低成本索引：

离线批处理模式：运行python main.py --openie_mode offline时可降低40%显存占用，特别适合超过100GB的文档集
动态分块策略：根据GPU型号自动调整max_model_len参数（建议设置为GPU显存的80%）
硬件适配方案：
- 单卡环境：设置export CUDA_VISIBLE_DEVICES=0并启用--skip_graph跳过多余计算
- 多卡环境：通过tensor-parallel-size 2参数实现并行处理

实际案例显示，在RTX 4090上索引Wikipedia数据时：