O status da aceleração da GPU pode ser verificado seguindo estas etapas:
- Certifique-se de ter instalado as dependências do modo GPU NVIDIA (onnxruntime-gpu e versão CUDA do PyTorch)
- Execute o comando verify no ambiente virtual ativado:
python -c "import torch; print(f'CUDA available: {torch.cuda.is_available()}')"
- Se a saída
CUDA available: True
Indica que a configuração foi bem-sucedida - O tempo de execução está disponível usando o
nvidia-smi
Comando para observar o uso da GPU
Solução de problemas: se retornar False, verifique a versão do driver da placa de vídeo, a instalação do kit de ferramentas CUDA e se o PyTorch instalou o pacote de roda correspondente à versão CUDA.
Essa resposta foi extraída do artigoKitten-TTS-Server: um serviço de conversão de texto em fala leve e autoimplantávelO