平台为高级用户提供完整的自定义模型部署能力:
1. 部署方式
- Docker容器:将模型+依赖打包为标准镜像上传
- 原生代码:直接上传Python等语言编写的模型代码
2. 核心功能
- isolamento ambiental:每个”Chute”容器在独立沙箱中运行
- 自动扩缩容:根据请求量动态调整计算资源
- gerenciamento de versões:支持多版本模型并存和灰度发布
3. 安全机制
- 默认启用进程隔离和网络防火墙
- futuroTEE可信执行环境可保护敏感数据
- 运行日志和监控数据可视化呈现
用户可参考官方文档将HuggingFace等平台的模型转化为可部署的容器包,平台提供CLI工具简化上传和生命周期管理流程。
Essa resposta foi extraída do artigoChutes: uma plataforma de computação sem servidor para implementar e dimensionar modelos de IA de código abertoO