クロードは最近、画期的な新API機能であるロングテキストキャッシュを発表した。
この革新的な機能の核となる利点は、クロード・モデルが、書籍全体、完全なコード・ベース、または大規模なドキュメントを含むがこれに限定されない、ユーザー入力の長い部分を「記憶」できることである。この情報をキャッシュすることで、ユーザーはその後のインタラクションで入力を繰り返す必要がなくなり、データ処理にかかる時間とコストを大幅に削減できる。
クロードが提供した公式データによると、長文キャッシュ機能を有効にした後、処理速度は最大85%向上し、コストは最大90%削減できる。これは、詳細な対話、コード開発、文書分析のいずれにおいても、ユーザーがかつてない高速レスポンスを体験できることを意味する。
この機能は応用範囲が広く、特に以下の分野に適している：
- ダイアログエージェント：長いコマンドやドキュメントをキャッシュすることで、よりスムーズで低コストのダイアログエクスペリエンスを実現。
- コーディング・アシスタント：コード・ベースをキャッシュし、コード補完と質問回答の効率を向上させます。
- 大型ドキュメントの処理: レスポンスの遅れを気にすることなく、長文の資料をすばやく埋め込み、取り出せます。
この機能は現在、クロード3.5ソネットとクロード3俳句のモデルでサポートされており、クロードチームは近い将来、さらに多くのモデルに拡張する予定だ。
この機能を体験したいユーザーは、以下の手順を踏む必要がある：
- クロードAPIにアクセスできることを確認する。
- 長文キャッシュ機能をサポートするモデルを選択します。
- APIリクエストでキャッシュを有効にし、何をキャッシュするかを定義する。
- リクエストを送り、キャッシュされたコンテンツを使い始めると、その後の操作が簡単になる。
クロードによるこの革新的な動きは、間違いなく長文処理の分野に大きな変化をもたらし、ユーザーが情報処理の効率とコストの両方を最適化するのに役立つだろう。開発者は、この新機能がワークフローに革命をもたらすことを期待できる。
