O repositório fornece exemplos de ajuste fino com base na biblioteca Hugging Face TRL e na tecnologia LoRA nas etapas a seguir:
- Baixar conjunto de dados: Uso
load_datasetCarregar conjuntos de dados de inferência multilíngue, comoHuggingFaceH4/Multilingual-Thinking. - Configuração de parâmetros LoRA: Definições
LoraConfigConfiguraçõesrresponder cantandolora_alphaetc. e especifique o módulo de destino (por exemploq_projresponder cantandov_proj). - Modelos de carregamento: através de
AutoModelForCausalLM.from_pretrainedCarregue o modelo pré-treinado e aplique a configuração do LoRA. - Ajuste fino da implementação: consulte o repositório no
finetune.ipynbusando a biblioteca TRL para fazer o ajuste fino. - Salvar o modeloSalvar o modelo após a conclusão do ajuste fino para tarefas específicas (por exemplo, raciocínio multilíngue).
Esse processo é aplicado para otimizar o desempenho do modelo em um conjunto de dados específico.
Essa resposta foi extraída do artigoColeção de scripts e tutoriais para ajuste fino dos modelos OpenAI GPT OSSO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como usar o repositório gpt-oss-recipes para o ajuste fino do modelo?
Português do Brasil 
简体中文 
English 
日本語 
Deutsch