海外访问:www.kdjingpai.com
Ctrl + D 收藏本站
当前位置:首页 » AI答疑

如何在gpt-oss-recipes仓库中选择合适的模型?

2025-08-14 170

仓库提供两个模型:gpt-oss-120b(117B参数)和gpt-oss-20b(21B参数)。选择模型时需考虑硬件条件:

  • 高性能GPU(如H100):推荐使用gpt-oss-120b,需至少80GB GPU内存。
  • 消费级硬件(如16GB内存设备):推荐使用gpt-oss-20b,资源占用较低。

在脚本中通过修改model_path变量选择模型,例如:

model_path = "openai/gpt-oss-20b"  # 选择20B模型
# model_path = "openai/gpt-oss-120b"  # 选择120B模型

脚本会根据模型大小自动配置设备映射和优化设置。

找不到AI工具?在这试试!

输入关键词,即可 无障碍访问 必应 搜索,快速找到本站所有 AI 工具。

回顶部

zh_CN简体中文