Der Status der GPU-Beschleunigung kann anhand der folgenden Schritte überprüft werden:
- Vergewissern Sie sich, dass die Abhängigkeiten in der NVIDIA GPU Weise installiert wurden:
pip install onnxruntime-gpuund die entsprechende Version von PyTorch - Führen Sie den Befehl detect in einer aktivierten virtuellen Umgebung aus:
python -c "import torch; print(f'CUDA available: {torch.cuda.is_available()}')" - Wenn der Ausgang
CUDA available: TrueDie Konfiguration ist erfolgreich, wenn - Die eigentliche Ausführung kann durch Öffnen des Task-Managers (Windows) oder mit dem Befehl
nvidia-smiBefehl (Linux) Beobachten der GPU-Auslastung
Vorbehalte:
- Wenn False angezeigt wird, überprüfen Sie bitte, ob die CUDA-Treiberversion mit der PyTorch-Version übereinstimmt
- NVIDIA Container Toolkit für die Docker-Bereitstellung installiert
- Es kann zu einer Verzögerung bei der Initialisierung des CUDA-Kontexts für den ersten Lauf kommen
Diese Antwort stammt aus dem ArtikelKitten-TTS-Server: Ein selbstentwickelbarer, leichtgewichtiger Text-to-Speech-DienstDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie kann man überprüfen, ob die GPU-Beschleunigung erfolgreich aktiviert wurde?
Deutsch 
简体中文 
English 
日本語 
Português do Brasil