Chutes：用于部署和扩展开源AI模型的无服务器计算平台

Chutes是一个为开发者设计的AI模型计算平台。 它基于去中心化的开源架构，用户不需要自己管理复杂的服务器。 使用这个平台，开发者可以快速部署和运行各种开源的人工智能模型，例如大语言模型或图像生成模型。 Chutes.ai的核心是提供一个无服务器的计算环境，这意味着用户只需上传代码，平台会处理其余的运行和扩展任务。 它的付费模式是按使用量计费，用多少付多少，这对于需要灵活计算资源的初创公司和个人研究者来说，是一种节约成本的方式。 平台通过整合全球范围内的GPU资源，为AI推理任务提供稳定和高效的计算支持。

機能一覧

• サーバーレス展開: 用户可以部署任何AI模型，无需进行服务器配置和管理。
• 快速扩展: 系统能根据工作负载需求自动调整计算资源。
• 複数のモデルをサポート: 平台不仅限于大语言模型（LLM），还支持图像、视频、语音、音乐和3D模型等多种AI应用。
• カスタマイズされた環境: 用户可以上传自己的代码或使用Docker容器来运行任何开源模型。
• API优先: 提供简洁的API接口，方便将其功能集成到任何应用程序或系统中。
• モデルライブラリ: 平台提供最新的开源模型，并且经常在模型发布后很快就上线。
• 必要に応じて支払う: 根据实际的计算请求量付费，并提供不同等级的订阅计划。
• 去中心化网络: 建立在Bittensor网络之上，利用分布式GPU资源提供计算服务。

ヘルプの使用

Chutes.ai平台简化了部署和使用AI模型的流程，让不具备专业云服务管理知识的开发者也能快速上手。它的核心是提供一个无服务器环境，用户只需要关注模型和代码本身。

注册和获取API密钥

1. 访问Chutes.ai官方网站并创建一个账户。
2. 登录后，在您的账户仪表盘或设置页面中找到API管理部分。
3. 生成一个新的API密钥。这个密钥是您访问平台计算资源的凭证，请妥善保管。

如何通过API使用模型

Chutes.ai兼容OpenAI的API格式，这使得切换和集成变得非常简单。如果您之前使用过OpenAI的API，那么您几乎不需要修改代码。

第一步：设置请求地址
将您代码中请求的目标URL替换为Chutes.ai提供的代理地址：
https://llm.chutes.ai/v1/chat/completions

第二步：配置API密钥
在请求的头部信息（Headers）中，将您的API密钥作为Bearer Token进行身份验证。
Authorization: Bearer YOUR_CHUTES_API_KEY

第三步：指定模型
在请求体（Body）的JSON数据中，通过model字段指定您想要使用的模型。例如，如果您想使用DeepSeek的某个模型，可以设置为：
"model": "deepseek-ai/DeepSeek-V3"

以下是一个使用cURL发请求的例子：

curl -X POST https://llm.chutes.ai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_CHUTES_API_KEY" \
-d '{
"model": "deepseek-ai/DeepSeek-V3",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "Hello! Can you tell me a joke?"
}
]
}'

您需要将代码中的YOUR_CHUTES_API_KEY替换成您自己的密钥。

在第三方应用中使用

Chutes.ai也可以很方便地集成到支持自定义模型接口的第三方应用中，例如Janitor AI或KoboldAI。
设置流程通常如下：

1. 在应用的设置选项中，找到API或模型配置入口。
2. オプション自定义もしかしたら兼容OpenAI的API类型。
3. 在API地址或代理URL字段中，填入Chutes的请求地址：https://llm.chutes.ai/v1/chat/completions.
4. 在API密钥字段中，填入您的Chutes.ai账户生成的密钥。
5. 在模型名称字段，输入您希望使用的Chutes平台上的模型标识符，例如deepseek-ai/DeepSeek-V3.
   保存设置后，应用就会通过Chutes.ai的计算网络来运行AI模型。

部署自己的模型

对于需要运行自定义模型的高级用户，Chutes.ai允许上传自己的代码或Docker容器。您可以在其官方文档中找到关于如何打包和部署自定义“Chute”（容器）的详细指南。这个过程通常需要您将模型和相关依赖打包成一个标准的容器镜像，然后通过平台的工具进行上传和部署。

アプリケーションシナリオ

1. 快速开发AI应用原型
   对于需要快速验证想法的初创公司或开发者，Chutes.ai提供了一个无需关心底层设施的环境。开发者可以把精力完全集中在应用逻辑和用户体验上，利用平台现有的开源模型快速搭建一个功能原型。
2. 扩展现有应用中的AI功能
   如果一个现有的网站或App需要集成AI功能（如智能客服、内容推荐或文本摘要），开发者可以通过调用Chutes.ai的API接口，轻松地将强大的模型能力加入到自己的产品中，而无需承担高昂的硬件和维护成本。
3. 学术研究与实验
   研究人员经常需要测试不同的AI模型或算法。Chutes.ai的按需付费模式和灵活的模型支持为学术研究提供了便利。研究者可以随时调用最新的开源模型进行实验，成本可控，且无需花费时间在环境配置上。
4. 处理大规模数据任务
   对于需要进行大规模文本嵌入、数据分析或图像处理的任务，可以使用Chutes.ai即将推出的“长时任务（Long Jobs）”功能。用户可以提交批处理任务，利用平台的分布式计算资源高效完成工作。

品質保証

1. Chutes.ai和传统云服务商（如AWS、Google Cloud）提供的AI服务有什么不同？
   传统云服务商通常需要用户自己配置和管理虚拟机、容器实例和网络，过程比较复杂。Chutes.ai提供的是无服务器计算服务，它将底层的技术细节全部封装好了。用户可以直接部署和调用模型，平台会自动处理资源的分配和扩展，大大降低了使用门槛。
2. 平台上的“去中心化”是什么意思？
   “去中心化”指的是Chutes.ai的计算资源不是来自单一的数据中心，而是由一个分布在全球的GPU提供商网络组成。 这种结构提高了系统的稳定性和抗风险能力，同时通过竞争机制，理论上可以提供更具成本效益的计算服务。
3. 在Chutes.ai上运行模型的数据安全吗？
   Chutes.ai通过在隔离的环境中执行用户的代码来保障安全。 平台也计划推出基于可信执行环境（TEE）的保密计算功能，这将为处理敏感数据的用户提供更高级别的数据隐私保护。
4. 如果我想使用的模型在平台上没有怎么办？
   Chutes.ai允许用户自己添加模型。你可以将任何开源模型打包成一个Docker容器，然后部署到平台上运行。