パフォーマンスの最適化と同時実行制御
SiteMCPは、従来のクローラーのシングルスレッドの制限を打破し、設定可能な同時実行パラメータによって飛躍的な性能向上を実現します:
- ダイナミックな調整機能の採用をサポートする。
--concurrencyパラメータは並列リクエスト数を設定する(デフォルト5、最大20まで設定可能) - 資源モニタリングシステムメモリとCPUの使用状況に応じて、リクエスト頻度を自動的かつ動的に調整します。
- 障害回復リクエストのタイムアウトや失敗時にデータの完全性を保証する自動再試行メカニズム
測定データによると、DaisyUIコンポーネントライブラリ(約300ページ)をクロールする場合、同時実行数を10に設定すると、総所要時間を12分から4分に短縮できる。ただし、対象となるウェブサイトにクロール防止メカニズムがある場合は、制限のトリガーを回避するために同時実行数を3以下に制御することをお勧めします。
この答えは記事から得たものである。SiteMCP:ウェブサイトのコンテンツをクローリングし、MCPサービスに変えるについて































