Langroid bietet flexible LLM-Integrationslösungen:
- OpenAI-Familie von ModellenNative Unterstützung für offizielle Modelle wie GPT-4o
- Open Source/lokale ModelleVerbindung zu lokalen Bereitstellungsmodellen wie Llama, Mistral usw. über den Llama- oder LiteLLM-Proxy
- Geschäftsmodellierungs-APIKompatibel mit Hunderten von Anbietern von Cloud-Diensten
Um es zu verwenden, geben Sie einfach in der Konfiguration anchat_modelParameter, wie zum Beispiel'ollama/mistral'bezeichnet das lokale Modell.OpenAIChatModel.GPT4ostellt das neueste Modell von OpenAI dar. Dieses Design ermöglicht es Entwicklern, die Modelle für Vergleichstests schnell zu wechseln, ohne den Kerncode zu ändern.
Diese Antwort stammt aus dem ArtikelLangroid: Einfaches Navigieren in großen Sprachmodellen mit Multi-Intelligent Body ProgrammingDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Welche sind die wichtigsten LLM-Integrationsmethoden, die von Langroid unterstützt werden?
Deutsch 
简体中文 
English 
日本語 
Português do Brasil