LangróideMecanismos instrumentaisA habilitação de inteligências para chamar funções externas (por exemplo, APIs ou execução de código) é dividida em duas implementações:
- Chamadas de função OpenAIAplica-se a modelos OpenAI, utilizando seu protocolo de chamada de função nativa;
- Ferramenta desenvolvida pelo próprio usuárioMensagemEstrutura de dados baseada nas entradas e saídas da Ferramenta de Definição Pydantic para oQualquer LLMincluindo modelos de código aberto.
Fluxo de trabalho:
- Ferramentas definidas pelo desenvolvedor (por exemplo, modelos Pydantic para consulta a bancos de dados);
- O LLM gera solicitações estruturadas com base no contexto da conversa para determinar se é necessária uma chamada de ferramenta;
- A estrutura executa a função Python correspondente e retorna o resultado.
Esse mecanismo lida automaticamente com a saída LLM doFormato de erro JSONpara melhorar a eficiência do desenvolvimento.
Essa resposta foi extraída do artigoLangroid: Navegando facilmente em grandes modelos de linguagem com programação corporal multiinteligenteO