使用 GPT-OSS 时需要注意以下安全事项:
- 硬件要求:确保设备满足最低要求,gpt-oss-120b 需要 80GB GPU(如 Nvidia H100),gpt-oss-20b 需要 16GB 内存
- 内容安全:避免直接展示链式推理内容,防止有害信息泄露
- 工具调用风险:特别是 Python 代码执行功能,需谨慎处理提示注入风险
- 安全机制:模型经过审慎对齐和指令优先级训练,但用户仍需保持警惕
OpenAI 通过安全训练和外部审核确保模型安全性,并举办了 50 万美元的红队挑战来鼓励社区发现安全漏洞。建议用户遵循最佳实践,如使用推荐的采样参数(temperature=1.0 和 top_p=1.0)以获得最佳输出。
本答案来源于文章《GPT-OSS:OpenAI开源的高效推理大模型》