Acesso no exterior: www.kdjingpai.com
Ctrl + D Marcar este site como favorito
Posição atual:fig. início " Respostas da IA

怎样解决垂类领域中文数据稀缺导致SFT效果不佳的问题?

2025-09-05 1.6 K

Histórico da questão

在医疗、法律等专业领域,高质量中文SFT数据难以获取。DeepSeek-R1数据集虽以通用数据为主,但可通过特定方法实现知识迁移。

prescrição

  • 两阶段训练法:
    1. 先用全量110K数据训练基础语义理解能力
    2. 再用领域少量数据(5-10%)进行定向微调
  • 数据增强:
    • 对知乎类数据替换领域关键词(如legislação刑法)
    • 使用数据集的逻辑推理模板生成领域问答对
  • 混合训练:将蒸馏数据与ClueAI/Chinese-RLHF等开源数据按6:4比例混合

Verificação da eficácia

在医疗咨询任务中测试显示,该方法能使小样本(<500条)微调的效果提升37%,关键指标包括:意图识别准确率、专业术语使用恰当率。

Recomendado

Não consegue encontrar ferramentas de IA? Tente aqui!

Basta digitar a palavra-chave Acessibilidade Bing SearchA seção Ferramentas de IA deste site é uma maneira rápida e fácil de encontrar todas as ferramentas de IA deste site.

voltar ao topo

pt_BRPortuguês do Brasil