12-Faktor-Agenten 12: Führen Sie Ihre Intelligenz durch eine zustandslose Reductio ad absurdum.

Wenn Sie auf eine Einführung in humanlayer gewartet haben, dann ist dies die richtige. Wenn Sie Element 6 - Starten/Pausieren/Fortsetzen über eine einfache API und Element 7 - Kontaktaufnahme mit Menschen über Tool-Aufrufe praktizieren, dann sind Sie bereit, dieses Element zu integrieren. Erlauben Sie dem Benutzer das Starten/Pausieren/Fortsetzen von...

Anstatt monolithische Intelligenzen zu bauen, die versuchen, alles zu tun, ist es besser, kleine, konzentrierte Intelligenzen zu bauen, die eine Sache gut machen können. Intelligenzen sind nur ein Baustein in einem größeren, weitgehend deterministischen System. Die wichtigste Erkenntnis hier ist die Einschränkung des Modells der großen Sprache: Je größer und komplexer die Aufgabe, desto...

Dies ist ein unbedeutender Punkt, aber erwähnenswert. Einer der Vorteile eines Agenten ist, dass er "selbstheilend" ist - bei kurzen Aufgaben kann ein großes Sprachmodell (LLM) ein fehlgeschlagenes Tool aufrufen. Es besteht eine gute Chance, dass ein gutes LLM in der Lage ist, eine Fehlermeldung oder einen Stack-Trace zu lesen und...

Wenn Sie die Kontrolle über Ihren eigenen Kontrollfluss haben, können Sie viele interessante Funktionen implementieren. Erstellen Sie benutzerdefinierte Kontrollstrukturen, die zu Ihrem speziellen Anwendungsfall passen. Bestimmte Arten von Toolaufrufen könnten ein Grund sein, aus einer Schleife herauszuspringen, auf die Antwort eines Menschen zu warten oder auf eine andere lang laufende Aufgabe zu warten (z. B. eine Trainingspipeline)...

Standardmäßig beruht die API des Large Language Model (LLM) auf einer grundlegend wichtigen Token-Entscheidung: Geben wir reinen Textinhalt oder strukturierte Daten zurück? Sie legen viel Gewicht auf die erste Token-Wahl, die im Fall des Wetters in Tokio...

Intelligenzen sind Programme, und wir erwarten, dass man sie auf irgendeine Weise starten, abfragen, fortsetzen und beenden kann. Nutzer, Anwendungen, Pipelines und andere Intelligenzen sollten in der Lage sein, eine Intelligenz über eine einfache API zu starten. Wenn langwierige Operationen durchgeführt werden müssen, sollten Intelligenzen und ihre Orchestrierung deterministischen Code...

Auch außerhalb des Bereichs der KI versuchen viele Infrastruktursysteme, den "Ausführungsstatus" vom "Geschäftsstatus" zu trennen. Bei KI-Anwendungen kann dies komplexe Abstraktionen beinhalten, um Informationen wie den aktuellen Schritt, den nächsten Schritt, den Wartezustand, Wiederholungsversuche usw. zu verfolgen. Diese Trennung führt zu Komplexität, und obwohl es sich lohnen kann,...

Das Werkzeug muss nicht komplex sein. Im Kern handelt es sich einfach um strukturierte Ausgaben Ihres Large Language Model (LLM), die zum Auslösen von deterministischem Code verwendet werden. Angenommen, Sie haben zwei Werkzeuge CreateIssue und SearchIssues. Ein Large Language Model (LLM) zu bitten, "eines von mehreren Werkzeugen zu verwenden", bedeutet in Wirklichkeit, es zu bitten, eine Ausgabe zu machen...