LangroidInstrumentelle MechanismenDie Ermöglichung des Aufrufs externer Funktionen (z. B. APIs oder Code-Ausführung) durch Intelligenzen wird in zwei Implementierungen unterteilt:
- OpenAI-FunktionsaufrufeGilt für OpenAI-Modelle unter Verwendung des nativen Funktionsaufrufprotokolls;
- Selbstentwickeltes ToolMessagePydantic Definition Tool: Eine Datenstruktur, die auf den Eingaben und Ausgaben des Pydantic Definition Tool für dieJeder LLMeinschließlich Open-Source-Modelle.
Arbeitsablauf:
- Entwicklerdefinierte Werkzeuge (z. B. Pydantic-Modelle für die Abfrage von Datenbanken);
- LLM generiert strukturierte Anfragen auf der Grundlage des Gesprächskontextes, um festzustellen, ob ein Tool-Aufruf erforderlich ist;
- Der Rahmen führt die entsprechende Python-Funktion aus und gibt das Ergebnis zurück.
Dieser Mechanismus behandelt automatisch die LLM-Ausgabe desFehlerformat JSONum die Effizienz der Entwicklung zu verbessern.
Diese Antwort stammt aus dem ArtikelLangroid: Einfaches Navigieren in großen Sprachmodellen mit Multi-Intelligent Body ProgrammingDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie funktioniert der Mechanismus von Langroid's Tool?
