A estrutura define a interface da ferramenta por meio do modelo Pydantic, que não só oferece suporte a chamadas de funções nativas da OpenAI, mas também cria um mecanismo exclusivo de ToolMessage para garantir a capacidade de chamadas de ferramentas de modelos que não sejam da OpenAI. Quando o LLM gera uma solicitação de chamada de ferramenta, o sistema captura automaticamente a mensagem estruturada e executa a função Python correspondente, além de ser tolerante a falhas no tratamento de saída JSON formatada incorretamente. Esse design permite que os desenvolvedores ampliem uniformemente os recursos externos, como consultas a bancos de dados, chamadas de API e outras operações complexas para LLMs locais ou baseados em nuvem.
Essa resposta foi extraída do artigoLangroid: Navegando facilmente em grandes modelos de linguagem com programação corporal multiinteligenteO