DeepLXは、リソースの利用を最適化するために、2レベルのキャッシング・アーキテクチャを設計した:
- メモリキャッシュLRUアルゴリズムを採用し、直近1000件の翻訳結果をキャッシュすることで、応答時間を15ms未満に短縮。
- KV永続キャッシュ最大35%のキャッシュヒットを持つCloudflare KVストレージを使用して、高頻度コンテンツを保持します。
- インテリジェント・リフレッシュ・メカニズム専門用語は長期キャッシュ、日常用語は30日TTL。
実践によると、文献翻訳のシナリオでは、同じ専門用語に対する重複した翻訳リクエストが721 TP3T削減され、APIコール全体では401 TP3T削減されました。X-Cache-Force-Refresh
ヘッダーは、特定のコンテンツの更新を強制する。
この答えは記事から得たものである。DeepLX: 無料のDeepLおよびGoogle翻訳APIサービスについて