第 18 课:怎样判断生成答案的质量
“最多三本,无需押金[B]。”数量对了,还带引用,看起来像个合格答案。把句子拆开,问题就出来了:B 说三本,没有说押金。一个正确数字,遮住了旁边那条无依据结论。
一句一句看,比整体打分更容易
先检查事实是不是适用的规则,再检查这次提供的证据是否支持它。两者有区别:碰巧说对却找不到依据,不便复查;照着过期文件说,也可能不适用于当前问题。
引用也逐条看。编号存在吗?原文支持这句话吗?时间、对象和版本对吗?D 能支持特殊闭馆,不能支持普通周日的开放时间。来源标记的数量,不等于被核对过的事实数量。
三个续借答案,差在什么地方
甲:可以续借七天。 乙:未被预约的书,可在到期前续借一次,延长七天[C]。 丙:随时能无限续借,每次七天[C]。
问次数与时长时,甲不完整,还漏条件;乙回答了问题,也保留条件;丙虽然有正确的七天,却把次数与资格改错了。只找答案里有没有出现“七天”,这三条就会被混为一谈。
完整性还包括是否回答所有部分。日期比较只说当天闭馆,少了普通周日;证件加押金题全部拒答,又把能回答的证件要求丢掉。已知与未知分别说出来,才贴近用户的问题。
用一个简单标准,逐题坚持下去
可以先约定:事实类题要事实正确、有证据、回答完整才通过;表达是否清楚另外记录。资料外题要说明未知且不猜测。规则写在测试前面,别一题严格、一题只看大意。
第七题若答“十八日全天闭馆[D];普通周日九点到十七点[A]”,两个来源清楚。若又保证十九日一定恢复,这个保证没有明确证据,应删掉或说明不确定。合理推断也不该写成通知原话。
拿你保存的五次实验逐句核对,再对十题评分。通过八题,就记八题,也把两道失败题写出来。它们若都涉及日期,说明总分可能把同一个短板藏住了。
开头那句话怎么改
“三本”保留并引用 B;“无需押金”改为提供的资料无法确定押金要求。修改前是部分事实正确,但整题仍不通过。评分要能说明这个区别。
继续阅读:Microsoft: RAG LLM evaluation phase
← 上一篇 · 学习计划 · 练习用的虚构图书馆资料 · 下一篇 →