上周三下午，我同事老张差点把工作丢了。
他给领导交了一份行业分析，数据详实，逻辑清楚，引用还特别规范。领导看完点点头，转头在部门会上表扬他。
结果第二天，客户那边打来电话，问：你们引用的那份《2024年华东区消费白皮书》，怎么搜不到？
老张一查，傻眼了。
那份报告是AI帮他生成的，里面三条关键数据，两条是编的。连书名都是AI现编的，像模像样，还有页码。
老张不是个例。
我问了一圈身边人，几乎每个用过大模型的人，都踩过这个坑。你问它一个没听过的人，它不说不认识，它给你编一段生平。你问它一个不存在的规定，它给你编得比真的还详细。
这东西有个专门的名字，叫幻觉
说白了，就是AI一本正经地胡说八道。
它为什么非要编？
先搞明白一件事：大模型不是在「查资料」，它是在「接话」。
你平时聊天，别人问你「昨天那个电影怎么样」，你不会说「我不知道」，你会顺着接下去。大模型干的就是这个事，只不过它的接话能力被训练到了极致。
它读过海量文字，学会了词和词之间的搭配规律。「苹果」后面常跟「手机」，「爱因斯坦」后面常跟「相对论」。
你问它一个问题，它就开始一个词一个词往下猜。猜得多了，看着就特别顺，特别像真的。
问题就在这儿。
它猜的是「哪个词更顺」，不是「哪个词更真」。
这两件事在很多情况下是一回事，但一旦碰到它没学过的细节，就分家了。
比如你问它某本书的第178页写了啥。它没读过那本书，但它知道这个句式该长什么样。于是它开始编，编得符合格式，编得语气笃定，甚至编出一个精确的页码。
它不知道自己在撒谎。它只是把最顺的下一个词接了上去。
我踩过的那个坑
说个我自己的事。
去年我想了解一个行业政策，懒得翻原文，直接问大模型。它给了我一段解释，条理清晰，还标注了文号。
我信了，复制给了团队。
过了两天，一个同事拿着这段去对接客户，客户是行业内的老人，听了两句就皱眉：这政策三年前就废止了。
那顿尴尬，我到现在还记得。
后来我才明白，大模型有个特点：它宁可答得像模像样，也不愿意说「我不知道」
这不是它嘴硬。
是它的训练方式决定的。它被训练成要「完成对话」，要给出回应，而不是要「承认空白」。所以碰上不知道的，它不会停，它会顺着往下编。
编得越顺，越危险。因为你分不清哪句是真的，哪句是它接话接出来的。
怎么不被它坑
知道原理之后，防起来就简单了。我自己用下来，有这么几招。
第一招，凡是数字、人名、书名、政策文号，一律自己查一遍。
AI给的主干逻辑可以用，但具体到「谁、什么时候、第几条」，你别偷懒。打开搜索框，花两分钟核一下。这五分钟能帮你省掉后面一星期的麻烦。
第二招，问它「你怎么知道的」。
直接问这句，看它怎么回。如果它含糊其辞，说什么「根据公开资料」，那你就要警惕。如果它能给出具体出处，你也别全信，还是要去核。
第三招，把大问题拆小。
别问「帮我分析一下这个行业」。问「这个行业2023年的市场规模是多少，数据来源是哪份报告」。问题越具体，它瞎编的空间就越小。
第四招，让它先列框架，你自己填肉。
让它搭结构、理思路，这部分它擅长。具体的数据、案例、引文，你自己来。把它的强项和你的强项分开用。
再说一层
其实想明白了，这事儿也没那么可怕。
大模型像个特别能聊的实习生，反应快，知识面广，态度还好。但它有个毛病，就是怕冷场。你问什么它都敢接，接不住的也硬接。
你要做的，不是不用它，是知道它什么时候在硬撑。
它说「根据某某报告」，你就去搜那份报告。
它说「某某专家指出」，你就去查那位专家。
它给你一段特别流畅特别笃定的结论，你反而要多留个心眼。太顺了，可能就是因为它在接话，不是在查证。
我现在用AI，习惯是这样的：它负责出草稿，我负责挑刺。
它写得越快，我核得越仔细。
这两件事搭配起来，效率是真的高。你要是把挑刺这一步省了，那它编得越漂亮，坑就挖得越深。
老张后来把那三条数据全删了，重新查了半个月，报告重新交上去。领导没说啥，客户那边也过了。
他跟我说了一句话，我记到现在。
「它不是故意骗我。是我太想省事了。」
说到底，工具没变，是我们得换个用法。
它给你的是可能性，不是事实。
事实得你自己去拿。
你用大模型的时候，被它一本正经胡扯坑过吗？坑在哪儿？