START 入门

三个常见误判:搜索框、记忆库、会追问的同事

用不好它,问题常常出在对性质的判断上。它像一个读了很多书、但从来不下楼的人。

三个常见误判:搜索框、记忆库、会追问的同事
题图 / Unsplash

误解一:它知道今天发生了什么

模型的知识停在训练数据截止那天,之后的事它不知道。有些产品接了联网检索,但那是外挂,不是模型本身的能力。

所以问“今天某公司股价”“这周有什么新政策”,它要么说不知道,要么给你一个听起来合理的旧答案。后者更危险。

夜晚的地球灯光从太空俯瞰
场景配图 / Unsplash

正确的用法是:时效性内容自己查,把查到的东西贴给它做整理和对比。让它当分析者,别让它当信息源。

还有个变种:它知道旧版本的规定,但不知道已经改了。问流程、问标准、问税率这类会变的细节,先确认版本,再让它解释。

误解二:它记得你上次说的

同一个对话窗口里,它靠把历史消息重新发一遍来“记住”。窗口一关,或者对话太长被截断,前面说的就没了。

这解释了两件事:为什么聊久了它开始答非所问,因为最早的约束被挤掉了;为什么换个窗口它像失忆,因为它确实没有记忆。

想让它稳定,把关键约束写在每次提问里,或者开头用一段固定背景,别指望它自己记住。

实操上有个便宜的办法:把背景写成一小段,存在记事本里,每次新开对话先粘一次。三十秒的事,能省掉后面反复解释。

摊开的笔记本上记着常用的背景说明
场景配图 / Unsplash

误解三:它会主动问你缺什么

多数模型被训练成“先给答案”。你信息给得不全,它不会追问,而是默默补一个假设,然后基于假设写一大篇。

这就是为什么你觉得它答得挺顺,但跟你手上的活完全对不上。它补的那个假设,可能和你真实情况差很远。

应对办法很笨但有效:提问时自己先把可能缺的条件列一遍,读者是谁、多长、什么语气、要不要举例。它不问,你就自己交代。

顺带说一个:它不是数据库

让它查一条具体规定、一个具体参数、一条法条原文,它给的版本经常是拼出来的:条款号对,内容错半句。

图书馆书架上整齐排列的书籍
场景配图 / Unsplash

要精确内容,就把原文贴进去让它找,或者让它回答“在第几段”,然后你自己去看那一段。

能核对的场景用它提速,不能核对的场景别用它下结论。这条线划清楚,很多坑就绕过去了。

补充一句判断标准很简单:这句话错了,我能不能在三分钟内发现。不能,就别让它单独决定。

常见问题

接了联网搜索是不是就准了?

好一些,但检索到的网页本身可能有错,它也可能读错。看它给的来源链接,点进去核一遍,这一步省不掉。

为什么同一个问题问两次答案不一样?

生成过程带随机性,温度越高差异越大。要稳定就调低温度,或者把输出格式约束死。

它说“我不确定”可信吗?

比它硬答要可信,但不代表其他时候就可靠。它的确信程度和正确率没有稳定关系。