パフォーマンス最適化ソリューション
DeepAgents をローカルで実行する際に発生する可能性のあるパフォーマンスの問題に対して、以下の最適化が提供されています:
- モデル選択の最適化精度と性能のバランスを取るため、適度なパラメータ数のモデルを選ぶ(例えば、7Bのパラメータを持つgpt-oss)。
- 推奨ハードウェア構成少なくとも16GBのRAMを搭載し、GPUアクセラレーションで応答性を飛躍的に向上。
- 並列処理チューニングconfig.ymlのmax_workersパラメータを変更し、サブインテリジェンスの同時実行数を制御する(4~6スレッドを推奨)。
具体的なオペレーション
- ollamaプルでライトバージョンのモデルを選択する(接尾辞に:7bを付ける)
- 他のリソースを消費するプログラムを終了してから、分析タスクを開始する。
- 単純な分析のために、本質的でないサブインテリジェントをオフにすることができる(agent_dispatcher.pyの設定を変更する)
代替案:機器の性能が不十分な場合は、ポートマッピングによるローカルアクセスでクラウドサーバーの導入を検討する。
この答えは記事から得たものである。DeepAgents:プロ級の株式調査のためのAIインテリジェンスについて