长文档处理的完整解决方案
需通过硬件配置和参数调优实现：
- 换用128k版本：Jan-nano-128k原生支持128k tokens上下文窗口，启动时需添加关键参数：
--rope-scaling '{"rope_type":"yarn","factor":3.2,"original_max_position_embeddings":40960}' --max-model-len 131072 - 改进输入格式：使用XML/JSON标记分段（如
<section>...</section>），帮助模型识别文档结构 - 内存优化技巧：关闭无关进程，预留至少1.5倍模型大小的交换空间
对于超长文档（如书籍），建议：先通过LlamaIndex等工具构建向量索引，再分章节处理
Essa resposta foi extraída do artigoJan-nano: um modelo leve e eficiente para geração de textoO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " 怎样解决Jan-nano处理长文档时上下文丢失的问题？
Português do Brasil 
简体中文 
English 
日本語 
Deutsch