ラングロイド楽器メカニズムインテリジェンスが外部機能(APIやコード実行など)を呼び出せるようにすることは、2つの実装に分けられる:
- OpenAIの関数呼び出しOpenAIのモデルに適用され、ネイティブの関数呼び出しプロトコルを利用します;
- 自社開発ツールメッセージPydantic定義ツールの入出力に基づくデータ構造。あらゆるLLMオープンソースモデルを含む。
ワークフロー:
- 開発者定義のツール(例えば、データベースを照会するためのPydanticモデル);
- LLMは、ツール呼び出しが必要かどうかを判断するために、会話のコンテキストに基づいて構造化されたリクエストを生成する;
- フレームワークは対応するPython関数を実行し、結果を返す。
このメカニズムは、LLMの出力を自動的に処理する。エラー形式 JSON開発効率を向上させる。
この答えは記事から得たものである。Langroid:マルチインテリジェントボディプログラミングによる大規模言語モデルの容易なナビゲーションについて