LettuceDetect的核心功能
该工具提供多层级检测能力,以下是其主要功能特点:
- 精细化检测:支持token级逐词分析和span级片段识别两种模式
- 大容量处理:突破性地支持4096个token的长上下文,适用于复杂场景
- 高效推理:提供150M(base)和396M(large)两种模型选择,单GPU实现30-60样本/秒的处理速度
- 结果可视化:支持概率输出和片段位置标记,包含置信度指标
- 便捷集成:通过pip安装,提供简洁Python API,5行代码即可完成集成
特别值得一提的是其span级检测功能,能自动定位回答中完整的错误片段,输出起止位置和置信度评分,为开发者提供直观的修正依据。
本答案来源于文章《LettuceDetect:检测RAG系统幻觉的高效工具》