第 16 课:为 RAG 准备一套测试题
答对“最多借几本”之后,系统还可能答错临时闭馆、历史规则和押金。想知道它靠不靠谱,需要问一组能暴露这些差别的问题。随手挑两道容易题,往往只能看到好的一面。
先写标准,再看输出
测试集就是一组反复使用的问题与判断依据。一张表够用了:题号、问题、预期片段、答案要点、必须保留的条件。先填这些,再让系统答。否则看见一个似乎不错的答案,很容易不自觉地把标准放宽。
比如“续借几次、延长多久”,标准要包含一次、七天,以及未被预约、到期前。只说七天,漏了次数;说随时可以,改了条件。答案怎样措辞可以不同,事实要求不能跟着变。
十道题,不全问同一种事
资料包已经准备了十题。前四题直接问数量、借期、续借和证件;第五、第六用口语问周六傍晚和讨论室时长;第七、第八组合不同资料;最后两题问没有记录的收费。你可以先遮住答案,自己写预期片段。
第七题比较十八日与普通周日,要同时有 A、D。只说十八日闭馆,虽然这句没错,仍少了题目要求的普通时段。第八题比较两个年份,B、E 都要用,不能一看到归档就删掉。
收费两题也有通过标准:说清资料无法确定,不猜金额,不从未提到推断为零。这些题没有必要片段作为召回率的分母,后面要单独观察未知处理。
给自己留两道没见过的新问法
反复用同十题修改流程,可能只把熟悉的问法做好。另写两道意思相同、措辞不同的题,留到最后再检查。例如把“最多借几本”换成“能同时带走多少普通图书”。不要加入原题没有的实时库存条件。
这相当于把用来修改的题和用来再检查的题稍微分开。练习不用搞得很复杂,也别把十题通过当作所有场景可靠。资料或规则更新后,还要同步更新测试版本。
先为续借、日期比较和罚金各写两句:必须回答什么,不能写什么。再请另一个人只看你的标准评分。如果他不知道怎么算通过,标准还需要具体一点。
三道题的最低要求
续借保留次数、天数与条件;日期比较同时说明通常时段与特殊闭馆,并各有来源;罚金承认未知,不能填零。不是逐字匹配参考答案,而是检查这些事实。
继续阅读:Anthropic: Define success criteria and build evaluations
← 上一篇 · 学习计划 · 练习用的虚构图书馆资料 · 下一篇 →