A ferramenta não precisa ser complexa. Em sua essência, ela é simplesmente uma saída estruturada de seu modelo de linguagem grande (LLM) para acionar o código determinístico.
Por exemplo, suponha que você tenha duas ferramentas CreateIssue responder cantando SearchIssues. Pedir a um Modelo de Linguagem Grande (LLM) para "usar uma das várias ferramentas" é, na verdade, pedir que ele produza um JSON que possa ser analisado como um objeto que representa essas ferramentas.
class Issue:
title: str
description: str
team_id: str
assignee_id: str
class CreateIssue:
intent: "create_issue"
issue: Issue
class SearchIssues:
intent: "search_issues"
query: str
what_youre_looking_for: str
O padrão é simples:
- Modelo de linguagem grande (LLM) Saída JSON estruturada
- O código determinístico executa a ação apropriada (por exemplo, chamar uma API externa)
- Capturar os resultados e fornecer informações sobre o contexto
Isso cria uma separação clara entre as decisões do Modelo de Linguagem Ampla (LLM) e as operações do seu aplicativo; o LLM decide o que fazer, mas o seu código controla como fazer. O fato de o LLM "chamar uma ferramenta" não significa que você tenha de executar uma determinada função sempre da mesma forma.
Se você se lembrar de nossa declaração de troca acima.
if nextStep.intent == 'create_payment_link':
stripe.paymentlinks.create(nextStep.parameters)
return # 或者任何你想要的操作，见下文
elif nextStep.intent == 'wait_for_a_while':
# 做一些单子 (monadic) 操作之类的
else: #... 模型没有调用我们已知的工具
# 做些别的事情
tomar nota deTem havido muita discussão sobre as vantagens e as compensações de desempenho entre "prompting simples", "chamada de ferramenta" e "modo JSON". "Tem havido muita discussão sobre as vantagens e as compensações de desempenho do prompting simples, da chamada de ferramenta e do modo JSON. Em breve, forneceremos links para alguns recursos relacionados, mas não vamos nos aprofundar aqui. Veja também Dicas x Esquema JSON x Chamadas de função x Geração de restrições x SAPeQuando devo usar chamadas de função, saída estruturada ou padrões JSON? responder cantando OpenAI JSON vs. Chamadas de função.
A "próxima etapa" pode não ser tão atômica quanto "executar uma função pura e retornar o resultado". Quando você pensa em uma "chamada de ferramenta" como sendo apenas o modelo que gera um JSON descrevendo o que o código determinístico deve fazer, você libera uma grande flexibilidade. Compare isso com o Elemento 8: Dominando seu fluxo de controle Combinado.
Português do Brasil 
简体中文 
English 
日本語 
Deutsch