海外访问：www.kdjingpai.com

Ctrl + D 收藏本站

当前位置：首页 » AI答疑

怎样避免RuoYi AI的绘画功能生成违规内容？

2025-08-30

1.5 K

AI内容安全过滤机制建设

针对Dall-E-3等绘画模型可能产生的风险内容，推荐采取多级防护：

关键词过滤：在/api/draw接口前添加过滤器，使用AC自动机算法检测prompt中的敏感词（需维护词库）
图片识别层：集成内容安全API（如阿里云绿网），对生成图像进行二次鉴黄/鉴暴检测
审核流程：高风险行业可配置人工审核队列，所有生成图片先存入待审库，通过后才会返回下载链接
用户分级：结合账户信用体系，对新注册用户限制生成频次（如每小时3次）

技术实现上，建议抽象出ContentSecurityHandler拦截器，通过@Around注解统一处理所有AI输出。同时务必在用户协议中明确内容生成规范。

本答案来源于文章《RuoYi AI：基于SpringBoot实现AI聊天和绘画的后端框架》

相关文章

未经允许不得转载：AI生产力工具 » 怎样避免RuoYi AI的绘画功能生成违规内容？

相关推荐