Langroidは柔軟なLLM統合ソリューションを提供します:
- OpenAIシリーズGPT-4oなどの公式モデルのネイティブサポート
- オープンソース/ローカルモデルLlama または LiteLLM プロキシを介した、Llama、Mistral などのローカル展開モデルへの接続。
- ビジネス・モデリングAPI何百ものプロバイダーのクラウドサービスに対応
これを使うには、コンフィギュレーションでchat_model
などのパラメータがある。'ollama/mistral'
はローカルモデルを表す。OpenAIChatModel.GPT4o
はOpenAIの最新モデルです。この設計により、開発者はコアコードを修正することなく、比較テストのためにモデルを素早く切り替えることができます。
この答えは記事から得たものである。Langroid:マルチインテリジェントボディプログラミングによる大規模言語モデルの容易なナビゲーションについて