Recomenda-se que a implantação do AgentVerse seja feita manualmente por meio de um clone do Git, e o processo consiste em quatro etapas principais:
- Busca de código: Uso
git clone --depth 1
Faça o download do código mais recente - Instalação do ambiente: Executar
pip install -e .
Instalação das dependências do núcleo - Configuração do modeloConfigure as variáveis de ambiente de acordo com o tipo de modelo usado:
- Os serviços da OpenAI precisam ser configurados
OPENAI_API_KEY
- O LLaMA local precisa ser instalado
requirements_local.txt
- É necessária uma inicialização de serviço separada para a inferência de massa vLLM
- Os serviços da OpenAI precisam ser configurados
- Suporte a ferramentasSe você precisar de um navegador da Web ou de outras ferramentas, precisará instalar o BMTools adicionalmente.
Observação especial: a versão do Python precisa ser ≥3.9; o requisito de memória é alto ao usar modelos locais (por exemplo, o LLaMA-2-7b precisa de pelo menos 10 GB de memória de vídeo); recomenda-se verificar primeiro a compatibilidade do ambiente.
Essa resposta foi extraída do artigoAgentVerse: uma estrutura de código aberto para a implementação de colaboração e simulação de inteligência múltiplaO