12 - ファクター・エージェント 4.ツールは構造化されたアウトプットに過ぎない

このツールは複雑である必要はない。その核心は、決定論的なコードをトリガーするための、ラージ・ランゲージ・モデル（LLM）からの構造化された出力に過ぎない。

たとえば、次の2つのツールがあるとします。 CreateIssue 歌で応える SearchIssues.ラージ・ランゲージ・モデル（LLM）に「複数のツールのうちの1つを使う」よう求めることは、実際には、それらのツールを表すオブジェクトとしてパースできるJSONを出力するよう求めることだ。

class Issue:
title: str
description: str
team_id: str
assignee_id: str
class CreateIssue:
intent: "create_issue"
issue: Issue
class SearchIssues:
intent: "search_issues"
query: str
what_youre_looking_for: str

パターンは単純だ：

1. 大規模言語モデル（LLM）出力構造化JSON
2. 決定論的コードが適切なアクションを実行する（外部APIの呼び出しなど）
3. 結果を把握し、文脈にフィードバックする

これにより、ラージ・ランゲージ・モデル（LLM）の決定とアプリケーションの操作の間に明確な分離が生まれます。LLMは何をすべきかを決定しますが、あなたのコードはそれをどのように行うかを制御します。LLMが「ツールを呼び出す」からといって、特定の関数を毎回同じように実行する必要はありません。

先ほどのスイッチを思い出してほしい。

if nextStep.intent == 'create_payment_link':
stripe.paymentlinks.create(nextStep.parameters)
return # 或者任何你想要的操作，见下文
elif nextStep.intent == 'wait_for_a_while': 
# 做一些单子 (monadic) 操作之类的
else: #... 模型没有调用我们已知的工具
# 做些别的事情

銘記する"プレーンプロンプト"、"ツール呼び出し"、"JSONモード "の利点とパフォーマンスのトレードオフについて、多くの議論がなされてきた。"プレーンプロンプト"、"ツール呼び出し"、"JSONモード "の利点とパフォーマンスのトレードオフについて、多くの議論がなされてきた。近日中に関連リソースへのリンクを提供しますが、ここでは深入りしません。以下も参照してください。 ヒント vs JSONスキーマ vs 関数呼び出し vs 制約生成 vs SAPそして関数コール、構造化出力、JSONパターンはどのような場合に使うべきですか？ 歌で応える OpenAI JSONと関数呼び出しの比較.

次のステップ」は、「純粋な関数を実行して結果を返す」ほどアトミックではないかもしれない。ツールの呼び出し」を、決定論的なコードが何をすべきかを記述したJSONをモデルが出力しているだけだと考えると、非常に多くの柔軟性が解き放たれる。これを 要素8：コントロールの流れをマスターする 合体した。