Auch außerhalb des KI-Bereichs versuchen viele Infrastruktursysteme, den "Ausführungsstatus" vom "Geschäftsstatus" zu trennen. Für KI-Anwendungen kann dies komplexe Abstraktionen beinhalten, um Informationen wie den aktuellen Schritt, den nächsten Schritt, den Wartestatus, Wiederholungsversuche usw. zu verfolgen. Diese Trennung führt zu Komplexität, und obwohl sie sich lohnen kann, ist sie für Ihren Anwendungsfall möglicherweise zu klein.
Wie immer müssen Sie selbst entscheiden, was für Ihre Anwendung das Richtige ist. Aber gehen Sie nicht davon aus, dass SieunbedingtVerwalten Sie sie getrennt.
Noch deutlicher:
- Ausführungsstatus (Rechnen)Aktueller Schritt, nächster Schritt, Wartestatus, Anzahl der Wiederholungen, etc.
- BetriebszustandWas bisher im Intelligentsia-Workflow passiert ist (z.B. OpenAI-Nachrichtenlisten, Tool-Aufrufe, Ergebnislisten usw.).
Wenn möglich, vereinfachen Sie - vereinheitlichen Sie die beiden so weit wie möglich.
Sie können Ihre Anwendung sogar so gestalten, dass sie alle Ausführungszustände aus dem Kontextfenster ableiten kann. In vielen Fällen sind die Ausführungszustände (aktueller Schritt, Wartezustand usw.) nur Metadaten über das, was bisher geschehen ist.
Vielleicht haben Sie einige Dinge, die nicht in das Kontextfenster passen, wie Sitzungs-IDs, Kennwortkontexte usw., aber Ihr Ziel sollte es sein, diese zu minimieren. Durch die Übernahme der Element 3können Sie kontrollieren, was tatsächlich in das große Sprachmodell eingespeist wird.
Dieser Ansatz hat mehrere Vorteile:
- Einfachheit: die einzig wahre Quelle aller Zustände
- SerialisierungThreads können leicht serialisiert/deserialisiert werden
- Komponenten während der Prüfung anpassen: die gesamte Geschichte auf einen Blick
- GeschicklichkeitEinfaches Hinzufügen eines neuen Status durch Hinzufügen eines neuen Ereignistyps!
- WiederaufnahmeWiederherstellung von jedem Punkt aus durch einfaches Laden des Threads!
- StellateThreads: Threads können jederzeit gegabelt werden, indem eine Teilmenge von Threads in einen neuen Kontext/Status-ID kopiert wird.
- Mensch-Maschine-Schnittstelle und BeobachtbarkeitEinfaches Konvertieren von Threads in menschenlesbare Markdowns oder reichhaltige Webanwendungsoberflächen!
