第 17 课:怎样判断检索效果
这一篇暂时不看模型写的答案,只看搜索列表。第七题需要 A 和 D,系统却给了 A、H。你已经能指出它缺一份闭馆通知。召回率和精确率,就是把这种判断记得更清楚。
应该找到的,找回了多少
这道题需要两段,实际只找到 A,找回一段除以需要两段,是百分之五十。这个比例叫召回率。如果列表变成 A、H、D,两段都在,就是百分之百。
先把单位说清:我们按资料编号判断,A 和 D 各算一段。真实资料可能有不同段落都支持同一事实,标准应允许有效的替代证据,否则指标会把正确检索误判成失败。
找回来的,有多少对这题有用
A、H、D 一共三段,A 与 D 对这题有用,H 讲参考书,属于噪声。两段除以三段,约百分之六十七,这叫精确率。
| 候选列表 | 找齐 A、D? | 召回率 | 精确率 |
|---|---|---|---|
| A、H | 没有 | 1/2 | 1/2 |
| A、H、D | 是 | 2/2 | 2/3 |
| A、D | 是 | 2/2 | 2/2 |
多取一段补齐了证据,也带着无关内容。只取 A 看起来干净,精确率高,却回答不完整。所以两个比例要一起看,再加一格“必要证据是否全部找到”。
顺序也会改变你实际看到的东西
A、D、H 与 H、A、D 包含一样的段落,只读前两段时,前者够用,后者不够。保留原顺序和 k,才能看到差别。重排要解决的一部分问题,就是让有用内容更早出现。
记录“检索效果百分之九十”还不够,题数、k、资料版本和相关性标准都要跟着。押金、罚金题没有预期段,普通召回率写不适用,不能随手记成满分。
自己算一道:历史比较需要 B、E,候选是 E、H、B。分别只看前一、前二、前三段,记录两个比例与证据是否齐全。这里的列表是人工练习,不是某个工具的实测成绩。
对照计算
前三段召回 2/2,精确率 2/3。前一段和前两段都只找到 E,召回都是 1/2;前两段的精确率降为 1/2。问历史比较时 E 相关,换成当前上限题,判断标准也要变。
继续阅读:Microsoft: RAG information retrieval
← 上一篇 · 学习计划 · 练习用的虚构图书馆资料 · 下一篇 →