首页 / 入门 · AI 素养 / 第 4 课

L18 分钟读完入门防胡说

AI 为什么会一本正经地胡说

有人拿它问过一个问题:"个体户年报不交会罚多少钱?"它答得又快又稳:几月几号前必须报,逾期罚款两百到八百,还会进异常名录。条理清楚,数字具体,看着特别可信。

那位朋友照着这个数去准备,后来发现当地实际执行的规矩跟它说的对不上。它没想骗人,它就是在接话。这一课讲透这件事:胡说从哪来,哪几类话最危险,怎么让它少胡来。

编造是"接话"的副作用

第一课说过,它的本事是"这句话后面接什么最像样"。往细了说一层:在它眼里,"罚款"后面接一个具体数字,比接"这个我不确定"更像一句人话。它见过的正常文章里,罚款句后面跟的都是数字。

于是它就接了一个。接得不准,但接得漂亮。

你大概已经察觉了不对劲的地方:它判断"像不像样",靠的是文字表面的顺不顺,它没有第二个器官去核对真假。写通知这种活,顺就等于好;报政策数字这种活,顺不等于对。这就是它胡说的根子。

五个高发区

它什么都可能编,但这五类最常出事,共同点是:都有"标准答案",而它答得特别自信。

高发区 它编起来的样子
数字 罚款金额、税率、单价,张口就来,精确到个位
法条政策 "根据某某条例第几条",条例名像真的,编号也是编的
人名 把两三个人的事迹安在一个人头上,说得有鼻子有眼
日期 报名截止、放假安排,凑一个看起来合理的日子
引用出处 书名、文章、统计报告,造一个查无此"文"的给你

碰到这五类回答,先别信,动手核。怎么核,后面说。

三招让它少胡说,三条规矩兜底

第一招:给材料,让它只从材料里说。 问政策,先把红头文件的原文贴进去:

以下是关于年报的通知原文。只根据这段文字回答:年报的截止时间是什么?原文里没写的,直接回"没写",不要推测。

这一下把它的活从"回忆"变成了"查找",胡说空间小一大半。

第二招:提前给它说"不知道"的台阶。 它怕的是"接不上话",你明说允许它接不上,它就诚实许多:

以下问题,你拿不准的一律回"不确定",别硬答。答"不确定"不扣分。

第三招:要求给出处,然后你去验。 让它说清楚依据哪份文件、哪个链接:

你说的这个罚款金额,依据的是哪份文件?把文件名和条文原话贴出来。

它给不出、或者给的出处一搜没有,那这个回答就作废。这一招还能反过来吓阻它:知道自己必须报出处,它接话时会收敛些。

三招之外,再记三条规矩:

  1. 涉及钱、证件、合同、身体的话,它给的任何数字和条文,都要去官方渠道核一遍再办事。政务问题查当地政府网站,法律问题查法院和司法部门的公开信息,健康问题问医院。
  2. 它越流畅自信,越要留神。吞吞吐吐的回答反而值得多看一眼,那可能是真在"想"。
  3. 文字活随便它发挥,事实必须有人核对。你只让它负责"说清楚","说得对"这一关,永远是人的。

本案例为虚构情景合成,用于说明方法,不对应任何真实商家。

动手试试

  1. 问它一个有标准答案的事实题,比如"我们市最低工资标准是多少"。记下它的答案,再去当地政府网站查。对上了算运气,对不上你就亲眼见过一次了。
  2. 拿上节课你让它出过的一个主意,追问:"这个说法你是从哪知道的?"看它怎么圆。
  3. 用第一招测一次:随便找一篇政策说明贴给它,限定"只根据上面这段回答,没写的说没写",再故意问一个原文里根本没有的问题。看它老实老实。这一招练熟,以后它帮你处理正事,你才敢用。

它胡说的毛病治不除根,这三招是管住它,不是改好它。下一课讲最后一条底线:哪些事,从一开始就不该交给它。

做不出来?

练习卡住很正常。两个办法:把你遇到的问题原样发给 AI 让它换个讲法;或者回官网预约一次陪跑,我们手把手带你过一遍。