引用系统
引用系统是 TrustRAG 的核心差异化特性,确保 AI 生成的每段回答都可追溯到原始文档。
架构设计
text
LLM 输出 → 引用解析器 → 引用映射表 → 前端引用 UI
↓
点击跳转到原文引用生成流程
1. Prompt 工程
在系统 Prompt 中要求 LLM:
- 在回答中使用
[n]格式标注引用 - 每个引用对应上下文中的一个段落
- 不编造不在上下文中的信息
2. 引用解析
后端解析 LLM 输出中的引用标记:
- 识别
[1]、[2]等标记 - 映射到具体的文档段落
- 记录引用关系到数据库
3. 引用展示
前端提供丰富的引用交互:
- 行内引用标记(可点击)
- 引用详情弹窗(文档名、页码、原文摘录)
- 原文跳转功能
审核系统
数据模型
Citation
├── id
├── message_id → 关联的消息
├── chunk_id → 关联的文档段落
├── position → 在回答中的位置
├── review_status → pending / approved / rejected
└── reviewer_note → 审核批注审核工作流
- AI 生成带引用的回答
- 用户查看引用来源
- 逐条标记引用的准确性
- 不准确的引用添加批注说明
- 统计引用准确率
设计考量
- 不信任 LLM — 引用只是辅助,最终由用户判断
- 完整追踪 — 从回答到原文的完整链路
- 批量审核 — 支持高效的批量审核操作
