セキュリティ配備プログラム
企業の機密データ保護のニーズに対応するため、2つの実装オプションが用意されている:
- 完全オフラインモード::
- ローカルLLMをdocker-compose.ymlでデプロイする(推奨Llama3-8B)
- config.iniでweb_searchを無効にする
- AES-256による文書の暗号化保存を有効にする
- ハイブリッドモデル::
- 内部APIゲートウェイを設定してネットワークアクセスを制御する
- 文書アクセス制御リスト(DACL)権限マトリックスの設定
- クエリ・ログ監査を有効にする
システム要件::
- 最小構成:8コアCPU/32GB RAM/RTX3090グラフィックカード
- Ubuntu Server 22.04 LTSを推奨。
- NVIDIA CUDA 12.1のプリインストールが必要です。
テストでは、このソリューションが金融業界の顧客においてデータ漏洩ゼロを達成し、ISO27001認証の要件を満たしていることが示された。
この答えは記事から得たものである。LocalPdfChatRAG:マルチソースPDFドキュメントのローカルQ&Aをサポートするインテリジェントチャットツールについて































