第 01 课：大模型能做什么，为什么也会答错

你问 AI：“图书馆今天几点关门？”它回答晚上九点，还顺手告诉你怎么走。答案很完整，语气也很肯定。可如果今天是星期日，图书馆五点就关门了，你还是会白跑一趟。

学 RAG 之前，先记住这件小事：一段话读起来顺畅，并不能说明里面的事实可靠。这套文章会用一间虚构图书馆做练习；开放时间、借阅规则等都放在文末链接的资料包里。我们先从“该相信回答的哪一部分”聊起。

它为什么这么会接话

大语言模型，简称 LLM，在训练中学到了大量语言模式。对常见的生成式模型，可以先理解为：它根据输入和已经写出的内容，一步步预测接下来可能出现的文本。这里用到的单位叫 token，可能是一个词的一部分，并不总是完整的词。

这种能力很实用。你给它一段绕口的借阅说明，它能写得清楚些；给它一份长通知，它能帮你抓住重点。只要原文就在眼前，我们也容易发现它有没有漏掉条件、改错数字。

但问“本馆逾期一天罚多少钱”，情况就变了。如果没有罚款规定，它仍可能写出一个像真的金额，甚至加上缴费流程。这类看似合理、实际错误或缺乏依据的内容，通常叫幻觉。多问一次、让它再确认一次，都不能代替查原文。

把“帮我写一段借书指南”拆开看：文字可以写得亲切一些，借几本、借多久却不能随意发挥。资料 B 规定最多三本，每本十四天。模型怎样组织句子都可以，两个数字得留下来。

再看“普通周日十八点能去吗”。A 写着周末九点到十七点开放，所以十八点已经过了闭馆时间。这次回答既要找到资料，也要做一个时间比较。若问的是具体日期，还得查有没有临时公告。

这也解释了为什么有时 AI 很好用，有时却让人失望：任务需要的核对方式不同。改写看有没有改变原意；查规定看有没有适用的来源；算时间再算一遍。知道该查什么，比观察它说得有多自信更有用。

把 A、B 交给一个现有的 AI 对话工具，让它写一段给新同学看的借阅指南。圈出里面每个数字，再到原文找出处。接着问逾期罚金，看看它会不会承认资料没说。暂时不用 AI，也可以自己写一份预期回答。

做完后再核对

指南至少应保留三本、十四天，其他开放时间也应与 A 一致。罚金没有对应资料，合适的回答是无法确定金额。如果出现了金额，记下这一条无依据的内容就好，不必为了得到满意答案一直重试。

下一篇，我们再看怎样把要求说清楚。同一份资料，指令不同，模型交出的东西也会不同。