提升文本-视频对齐的实操方法
Index-AniSora结合Qwen-VL2的优化方案:
- Stichwort Technik:使用评估数据集中的标准格式(【主体】+【动作】+【场景】),例如”[和服少女]-[旋转跳跃]-[樱花树林]”
- 人工校正机制:在生成后运行
alignment_check.py
脚本,自动检测关键帧是否符合文本描述,需准备校验规则文件(参考anisora_benchmark
格式) - 微调训练:当持续出现偏差时,用包含50-100个修正样本的数据集进行RLHF优化,设置
--alignment_loss 0.5
权重
特别注意:1)避免抽象词汇(如”快乐”应改为”微笑挥手”);2)复杂场景分多时段生成;3)中日双语提示效果优于单一语言。项目wiki提供了经过验证的提示词模板库。
Diese Antwort stammt aus dem ArtikelIndex-AniSora: Bilibili, ein Open-Source-Tool zur Erstellung von Anime-VideosDie