RAG 与记忆:让回答有据可查
将检索到的材料与模型已有知识区分开。
两个容易混淆的概念
RAG 把相关材料放入当前上下文,帮助模型基于材料回答。记忆则保存跨步骤或跨会话需要继续使用的信息。两者可以结合,但用途不同。
从三份课堂笔记开始
先把笔记按段落切开,为每段保留标题、来源与日期。对一个问题,用简单关键词找出候选段落,再要求回答指出使用了哪段材料。先验证这条最小路径,再考虑向量检索。
检索的三个检查点
- 找到的段落是否真的包含答案?
- 是否丢失了限制条件和例外?
- 引用能否定位回原文?
不知道也是一种正确输出
如果材料里没有答案,系统应该说明缺少依据。让模型把缺少依据的问题写得更流畅,并不能解决问题。
实验
准备五个材料中有答案的问题,再准备五个没有答案的问题。分别统计是否检索到支持证据,以及是否在缺少证据时承认不知道。
理解需要时间,记录让每一步都有迹可循。
回到学习路线图