海外访问:www.kdjingpai.com
Ctrl + D 收藏本站
当前位置:首页 » AI答疑

如何安装和配置TableGPT Agent?

2025-09-05 1.4 K

安装准备

  • 安装Python 3.8或更高版本
  • 安装Git工具用于克隆仓库
  • 安装vLLM(建议0.5.5版本)以支持高效的模型推理

详细安装步骤

  1. 克隆GitHub仓库:
    git clone https://github.com/tablegpt/tablegpt-agent.git
    cd tablegpt-agent
  2. 安装依赖包:
    pip install -r requirements.txt
  3. 如需完整功能,安装额外依赖:
    pip install ".[local]"

模型部署

需要从Hugging Face下载TableGPT2模型(如TableGPT2-7B),然后使用vLLM启动服务:
python -m vllm.entrypoints.openai.api_server --served-model-name TableGPT2-7B --model path/to/weights
服务将默认监听http://localhost:8000。

配置代理

编辑代码或配置文件,将LLM的API地址指向vLLM服务:
llm = ChatOpenAI(openai_api_base="http://localhost:8000/v1", openai_api_key="whatever", model_name="TableGPT2-7B")

相关推荐

找不到AI工具?在这试试!

输入关键词,即可 无障碍访问 必应 搜索,快速找到本站所有 AI 工具。

回顶部

zh_CN简体中文