Para usar os scripts no repositório gpt-oss-recipes, primeiro você precisa concluir as seguintes etapas de instalação e configuração:
- armazém de clonesExecute-o no terminal
git clone https://github.com/huggingface/gpt-oss-recipes.git
e, em seguida, vá para o diretório do repositório. - Criação de um ambiente virtualRecomendamos o Python 3.11, bem como
uv
para criar um ambiente virtual com o comandouv venv gpt-oss --python 3.11
e ativado. - Instalação de dependências: Executar
uv pip install
instala os pacotes necessários, como PyTorch, Transformers, etc. - Instalação opcional do kernel do TritonSe o hardware for compatível com a quantificação MXFP4 (por exemplo, H100 ou RTX 50xx), o kernel Triton poderá ser instalado para otimizar o desempenho.
Essas etapas garantem a compatibilidade ambiental e a funcionalidade adequada para as operações subsequentes de inferência e ajuste fino do modelo.
Essa resposta foi extraída do artigoColeção de scripts e tutoriais para ajuste fino dos modelos OpenAI GPT OSSO