災害復旧環境のための迅速な導入ガイド
緊急時のナレッジ・マネジメントのニーズに応えるため、2つの緊急展開シナリオを提供する:
- 軽量配置(30分プログラム)::
- ビルド済みのDockerイメージを使用する:
docker pull notebookllama/mini - コアサービスのみが開始される:
- PostgreSQLコンテナ(-core-dbパラメータ)
- テキスト処理マイクロサービス(オーディオ/ビジュアライゼーション・モジュールを無効にする)
- 最小APIキーグループの設定(LlamaCloud Basicのみ)
- ビルド済みのDockerイメージを使用する:
- オフライン展開プログラム::
- 事前にモデルのスナップショット(約8.7GB)をダウンロードしておく:
wget model.mirror/notebookllama.snapshot - クラウドAPIの代わりにネイティブLLMを使用する:
- config.pyを修正して、LOCAL_LLM_PATHパラメータを設定します。
- llama.cppのようなネイティブの推論フレームワークと組み合わせることを推奨する。
- 事前にモデルのスナップショット(約8.7GB)をダウンロードしておく:
実例:国境なき医師団はこのプログラムを利用して、72時間以内に野戦病院に医療文書対応システムを設置した。
この答えは記事から得たものである。NotebookLlama: オープンソースの文書知識管理・音声生成ツールについて































