パフォーマンス最適化手法
モデルの応答性は、デバイスのGPUパフォーマンスとブラウザのリソース割り当てに依存し、以下の方法で改善することができます:
操作ガイド
- ハードウェアアクセラレーション設定Chromeの設定→システム→「ハードウェアアクセラレーションを使用」を有効にする。
- 資源の優先順位設定ブラウザのタスクマネージャーでWebGPUプロセスを高優先度に設定(Shift+Esc)
- 計算パラメータの最適化max_new_tokens パラメータの値を小さくする(将来のバージョンではオープンされるかもしれない)。
- 環境隔離プログラムGPUリソースを消費する他のウェブページやプラグインを閉じる
上級プログラム
開発者は、transformers.js設定のdevicePreferenceを変更することで、GPUデバイスを強制的に指定したり、バックグラウンドレンダリングにOffscreenCanvasを使用したりすることができます。
この答えは記事から得たものである。DeepSeek-R1 WebGPU: DeepSeek R1 1.5Bをブラウザでローカルに実行します!について































