Programm zur Einführung der Sicherheit
Es stehen zwei Implementierungsoptionen zur Verfügung, um den Schutz sensibler Daten in Unternehmen zu gewährleisten:
- Vollständiger Offline-Modus::
- Bereitstellung von lokalem LLM mit docker-compose.yml (empfohlen Llama3-8B)
- web_search in der config.ini deaktivieren
- Aktivieren Sie die AES-256-Dokumentenverschlüsselung für die Speicherung
- Hybrid-Modell::
- Konfigurieren des internen API-Gateways zur Kontrolle des Netzwerkzugangs
- Einstellung der DACL-Berechtigungsmatrix (Document Access Control List)
- Abfrageprotokoll-Überprüfung einschalten
Systemanforderungen::
- Mindestkonfiguration: 8-Core-CPU/32GB RAM/RTX3090-Grafikkarte
- Ubuntu Server 22.04 LTS wird empfohlen.
- Die Vorinstallation von NVIDIA CUDA 12.1 ist erforderlich.
Tests haben gezeigt, dass die Lösung keine Datenverluste bei Kunden aus der Finanzbranche verursacht und die Anforderungen der ISO27001-Zertifizierung erfüllt.
Diese Antwort stammt aus dem ArtikelLocalPdfChatRAG: Intelligentes Chat-Tool zur Unterstützung lokaler Fragen zu PDF-Dokumenten mit mehreren QuellenDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie kann man ein sicheres Dokumenten-Q&A-System in einer Intranet-Umgebung eines Unternehmens einsetzen?
