Das Werkzeug muss nicht komplex sein. Im Kern handelt es sich einfach um eine strukturierte Ausgabe aus Ihrem Large Language Model (LLM) zur Auslösung von deterministischem Code.
Nehmen wir zum Beispiel an, Sie haben zwei Werkzeuge CreateIssue im Gesang antworten SearchIssues. Ein Large Language Model (LLM) aufzufordern, "eines von mehreren Werkzeugen zu verwenden", bedeutet in Wirklichkeit, es zu bitten, ein JSON auszugeben, das wir als ein Objekt parsen können, das diese Werkzeuge repräsentiert.
class Issue:
title: str
description: str
team_id: str
assignee_id: str
class CreateIssue:
intent: "create_issue"
issue: Issue
class SearchIssues:
intent: "search_issues"
query: str
what_youre_looking_for: str
Das Muster ist einfach:
- Large Language Model (LLM) Ausgabe Strukturiertes JSON
- Deterministischer Code führt die entsprechende Aktion aus (z. B. Aufruf einer externen API)
- Erfassung der Ergebnisse und Rückkopplung in den Kontext
Dies schafft eine klare Trennung zwischen den Entscheidungen des Large Language Model (LLM) und den Operationen Ihrer Anwendung; das LLM entscheidet, was zu tun ist, aber Ihr Code steuert, wie es zu tun ist. Nur weil das LLM "ein Tool aufruft", bedeutet das nicht, dass Sie eine bestimmte Funktion jedes Mal auf die gleiche Weise ausführen müssen.
Erinnern Sie sich an unsere obige Aussage zum Wechsel.
if nextStep.intent == 'create_payment_link':
stripe.paymentlinks.create(nextStep.parameters)
return # 或者任何你想要的操作，见下文
elif nextStep.intent == 'wait_for_a_while':
# 做一些单子 (monadic) 操作之类的
else: #... 模型没有调用我们已知的工具
# 做些别的事情
zur Kenntnis nehmenEs gab eine Menge Diskussionen über die Vorteile und Leistungsnachteile von "Plain Prompting", "Tool Calling" und "JSON Mode". Es gab viele Diskussionen über die Vorteile und Leistungsnachteile von "plain prompting", "tool calling" und "JSON mode". Wir werden demnächst Links zu einigen verwandten Ressourcen bereitstellen, aber wir werden hier nicht in die Tiefe gehen. Siehe auch Hinweise vs. JSON-Schema vs. Funktionsaufrufe vs. Constraint-Generierung vs. SAPundWann sollte ich Funktionsaufrufe, strukturierte Ausgaben oder JSON-Muster verwenden? im Gesang antworten OpenAI JSON vs. Funktionsaufrufe.
Der "nächste Schritt" muss nicht so atomar sein wie "eine reine Funktion ausführen und das Ergebnis zurückgeben". Wenn Sie einen "Werkzeugaufruf" nur als das Modell betrachten, das eine JSON-Datei ausgibt, die beschreibt, was der deterministische Code tun soll, gewinnen Sie ein hohes Maß an Flexibilität. Vergleichen Sie dies mit dem Element 8: Beherrschung Ihres Kontrollflusses Kombiniert.
Deutsch 
简体中文 
English 
日本語 
Português do Brasil