Requisitos de hardware do sistema para o Search-R1
O Search-R1, como uma estrutura de aprendizagem por reforço para treinamento de modelos de idiomas grandes, tem requisitos explícitos de hardware de computação. De acordo com a documentação oficial, é necessária uma GPU com pelo menos 24 GB de memória de vídeo para executar o treinamento do modelo (recomenda-se o uso de placas de computador profissionais, como a NVIDIA A100). Esse requisito decorre de vários fatores técnicos:
- A magnitude do parâmetro básico LLM atinge o nível de 3 bilhões (3B)
- Várias instâncias de modelos precisam ser mantidas simultaneamente durante o processo de treinamento de aprendizagem por reforço
- Sobrecarga de computação vetorial em cenários de geração aumentada de recuperação (RAG)
A equipe do projeto fornece exemplos detalhados de execuções (conjuntos de dados NQ) em que o processo de treinamento completo normalmente leva várias horas em plataformas que atendem às condições de hardware. A documentação também destaca a estabilidade da conexão de rede e a eficácia da API como fatores-chave adicionais para execuções bem-sucedidas.
Essa resposta foi extraída do artigoSearch-R1: Aprendizado por reforço para treinar modelos grandes para pesquisa e raciocínioO
