Sistema de API compatível com OpenAI do Chutes
A plataforma Chutes usa uma especificação de API totalmente compatível com a OpenAI, uma decisão de projeto que reduz significativamente o custo de migração e o limite técnico para os desenvolvedores. No nível da interface, a plataforma fornece pontos de extremidade padrão, como /v1/chat/completions, com suporte aos mesmos parâmetros de solicitação e formatos de resposta. Isso significa que os aplicativos existentes baseados em OpenAI podem mudar para a rede Chutes simplesmente modificando o endereço do endpoint da API e a chave de autenticação.
O design de compatibilidade se estende a três dimensões principais: primeiro, o mecanismo de autenticação, que também usa o método de autenticação de cabeçalho HTTP do Bearer Token; segundo, o formato da mensagem, que mantém a estrutura de função-conteúdo do registro de diálogo; e, por último, a resposta de streaming, que suporta o protocolo de transferência de chunking. A plataforma ainda mantém parâmetros de controle preciso, como temperatura e max_tokens.
Exemplos reais mostram que uma migração típica de aplicativo Chatbot requer apenas 3 a 5 linhas de alterações de código. Essa compatibilidade permite que o Chutes acesse perfeitamente ecossistemas de aplicativos de terceiros, como JanitorAI, KoboldAI etc., ao mesmo tempo em que mantém a flexibilidade para que os desenvolvedores troquem de fornecedor.
Essa resposta foi extraída do artigoChutes: uma plataforma de computação sem servidor para implementar e dimensionar modelos de IA de código abertoO
Português do Brasil 
简体中文 
English 
日本語 
Deutsch