CozeLoop: uma plataforma de código aberto para otimizar o desenvolvimento e a operação de inteligências de IA

O CozeLoop é a plataforma de otimização de inteligências de IA de código aberto da ByteDance, baseada na licença Apache 2.0 e gratuita para uso comercial. Ela se concentra no gerenciamento do ciclo de vida completo das inteligências de IA, abrangendo o desenvolvimento de palavras-chave, depuração, avaliação e monitoramento de operações. A plataforma fornece ferramentas de visualização para ajudar os desenvolvedores a otimizar rapidamente o desempenho das inteligências e resolver problemas complexos no desenvolvimento. O back-end é desenvolvido em Golang, e o front-end é baseado em TypeScript e React, o que torna a arquitetura altamente eficiente e fácil de expandir. O CozeLoop oferece suporte a SDKs multilíngues (por exemplo, Python, Go, JavaScript), o que facilita a integração com sistemas locais. O CozeLoop oferece suporte a SDKs multilíngues (por exemplo, Python, Go, Java), o que facilita a integração com sistemas locais. Ele reduz o limite de desenvolvimento, operação e manutenção de IA, o que é adequado para empresas e desenvolvedores criarem aplicativos de IA de alto desempenho e incentivarem a colaboração da comunidade.

Lista de funções

• Desenvolvimento e depuração da palavra Cue : através da visualização Playground Teste e otimização em tempo real de palavras-chave com suporte para comparações de vários modelos.
• Avaliação automatizada Gerencie conjuntos de dados de avaliação e avaliadores para testar automaticamente a precisão e a conformidade das inteligências.
• Monitoramento de operações Registro de dados: Registre os dados de todo o link da execução do corpo inteligente e monitore os nós principais e o status anormal em tempo real.
• Gerenciamento total do ciclo de vida Suporte ao processo completo de inteligências, desde o desenvolvimento, depuração, avaliação até a implantação.
• SDK em vários idiomas Fornecimento de Python, Go, JavaScript SDK, conveniente para desenvolvimento secundário e integração de sistemas.
• integração de modelos Suporte a modelos grandes, como OpenAI, Volcano Engine Ark e outras configurações flexíveis.
• Suporte à comunidade de código aberto Baseado na licença Apache 2.0, as contribuições da comunidade com código e feedback são incentivadas.
• Suporte à internacionalização Suporte para interfaces em vários idiomas, adaptadas às necessidades dos desenvolvedores globais.

Usando a Ajuda

Instalação e implementação

O CozeLoop é um projeto de código aberto, você precisa clonar o código do repositório do GitHub e implantá-lo localmente. Aqui estão as etapas detalhadas:

1. Preparação ambiental ::
   • Requisitos de hardware CPU mínima de 2 núcleos, 4 GB de RAM.
   • dependência de software ::
     • Docker e Docker Compose Verifique se o serviço Docker está instalado e iniciado.
     • Golang Versão recomendada 1.23.4: configure as variáveis de ambiente.
     • Node.js Versão LTS recomendada para o desenvolvimento do JavaScript SDK.
     • pnpm Instale o pnpm globalmente (versão recomendada 9.12.0):

     npm i -g pnpm@9.12.0
     

2. armazém de clones ::
   Obtenha o código-fonte do CozeLoop:

git clone https://github.com/coze-dev/cozeloop.git
cd cozeloop

1. Configuração de variáveis de ambiente ::
   • entrevistas https://loop.coze.cn/console/enterprise/personal/open/oauth/apps Crie um aplicativo OAuth, obtenha o client_idepublic_key_id responder cantando private_key.
   • estabelecer .env configure o seguinte:

     COZELOOP_WORKSPACE_ID=your_workspace_id
     COZELOOP_JWT_OAUTH_CLIENT_ID=your_client_id
     COZELOOP_JWT_OAUTH_PRIVATE_KEY=your_private_key
     COZELOOP_JWT_OAUTH_PUBLIC_KEY_ID=your_public_key_id
     COZELOOP_API_BASE=https://api.coze.cn
     

2. modelo de configuração ::
   • Copie o modelo de perfil do modelo (por exemplo, modelo Volcano Engine Ark):

     cp conf/model/template/model_template_ark.yaml conf/model/ark.yaml
     

   • compilador conf/model/ark.yamlConfigure os seguintes campos:
     • idIDs de modelo personalizados, números inteiros não nulos, globalmente exclusivos, não modificáveis após a implantação.
     • meta.conn_config.api_keyChave da API do serviço de modelo, por exemplo, chave da API do Volcano Engine Ark (para saber como obtê-la, consulte https://www.volcengine.com/docs/82379/1541594).
     • meta.conn_config.modelID do ponto de extremidade do modelo: ID do ponto de extremidade do modelo Ark (para saber como obter isso, consulte https://www.volcengine.com/docs/82379/1099522).
3. Instalação de dependências ::
   • As dependências do Go são passadas por meio do go mod Gerenciamento automatizado:

     go mod tidy
     

   • Dependências de JavaScript:

     pnpm install
     rush update
     

4. Construir e executar ::
   • Construir projeto:

     go build
     

   • Inicie o serviço:

     docker compose --profile '*' up -d
     

     A primeira implementação pode exigir a extração da imagem, e os registros serão exibidos após uma inicialização bem-sucedida. Container coze-server Startedpor http://localhost:3000 Acesso.

5. modelo de desenvolvimento ::
   • O modo de desenvolvimento padrão oferece suporte a hot reloading, modificando o código de backend sem reiniciar o serviço. Executar:

     ./dev_reload.sh
     

Uso de funções essenciais

1. desenvolvimento e depuração de dicas

• Ir para o playground Console de login (https://loop.coze.cn/console/enterprise/personal/open), selecione o módulo "Prompt Words".
• Criando prompts Entrada do conteúdo das palavras-chave e teste do efeito de saída em tempo real. Suporte à comparação de vários modelos (por exemplo, modelos OpenAI e Ark). Exemplo de código Go:

prompt, err := loop.GetPrompt(ctx, loop.GetPromptParam{PromptKey: "test_prompt"})
messages, err := loop.PromptFormat(ctx, prompt, map[string]any{"input": "Hello"})

• gerenciamento de versões Salvar a versão da palavra-chave e alternar ou retroceder a qualquer momento.

2. avaliação automatizada

• Conjunto de avaliação de gerenciamento Carregar conjuntos de dados de teste (por exemplo, arquivos JSON), definir métricas de avaliação (por exemplo, precisão, concisão).
• experimento de corrida Avaliação: Selecione o avaliador, teste automaticamente a saída do corpo inteligente e visualize as estatísticas.
• Exibir relatório O console exibe o relatório do experimento e analisa o desempenho do modelo.

3. monitoramento operacional

• Traço Registro de dados da cadeia completa de execução de inteligências, incluindo análise de entrada, invocação de modelo e saída:

ctx, span := loop.StartSpan(ctx, "root", "custom")
span.SetInput(ctx, "User query")
span.SetOutput(ctx, "AI response")
span.Finish(ctx)
loop.Close(ctx)

• visualização Visualização de dados de rastreamento no console para analisar nós críticos e estados de exceção.

4. integração do SDK

• SDK do Python Para uma integração rápida:

from cozepy import Coze, TokenAuth
coze = Coze(auth=TokenAuth(os.getenv("COZE_API_TOKEN")))
bot = coze.bots.create(space_id="your_workspace_id", name="TestBot")
print(f"Created bot: {bot.name}")

• SDK JavaScript : em frontend para executar:

rushx start

5. suporte à internacionalização

• Configure a interface multilíngue em conf Catálogo Editar configurações de i18n, compatível com inglês, chinês simplificado, etc.

triagem de problemas

• Verificar a configuração Para garantir que .env e os perfis do modelo estão corretos.
• Ver registro Execute o seguinte comando para verificar o status do contêiner:

docker ps
docker logs <container_id>

• problema de rede : Reconhecimento COZELOOP_API_BASE acessível, verifique a rede do Docker.

Contribuições da comunidade

• consulta CONTRIBUTING.md Enviar código. Os problemas de segurança são tratados por meio do https://security.bytedance.com/src ou por e-mail sec@bytedance.com Informe, não divulgue.

cenário do aplicativo

1. Otimização do atendimento ao cliente com IA
   Use as palavras do prompt de depuração do CozeLoop para monitorar o desempenho das inteligências de atendimento ao cliente e melhorar a precisão das respostas.
2. avaliação de modelagem
   Os desenvolvedores testam os resultados do modelo por meio do módulo de avaliação automatizada para otimizar a eficácia dos aplicativos de IA.
3. monitoramento em tempo real
   As empresas monitoram o status operacional das inteligências, localizam e corrigem rapidamente as anormalidades e melhoram a estabilidade do sistema.
4. aplicativo multilíngue
   Desenvolva aplicativos globais de IA e adapte-se a usuários multilíngues com suporte a i18n.

QA

1. Qual é a diferença entre o CozeLoop e o Coze Studio?
   O CozeLoop se concentra na depuração, avaliação e monitoramento de palavras-chave para otimizar o desempenho do smartbody; o Coze Studio se concentra no desenvolvimento do smartbody e na orquestração do fluxo de trabalho.
2. Como faço para obter os parâmetros do OAuth?
   entrevistas https://loop.coze.cn/console/enterprise/personal/open/oauth/appsSe você quiser criar um aplicativo OAuth, crie um aplicativo OAuth e obtenha a chave.
3. Quais são os modelos suportados?
   Oferece suporte a modelos como OpenAI, Volcano Engine Ark, etc., que precisam ser configurados manualmente. https://github.com/coze-dev/cozeloop/wiki/5.-Model-configuration.
4. É necessário ter experiência em programação?
   O console suporta operação sem código e os usuários de programação podem personalizar os recursos por meio do SDK.
5. Como faço para participar da comunidade?
   Digitalização com o Flying Book README.md Participe do grupo de intercâmbio técnico CozeLoop.