我同事老周，上个月差点栽在一份材料上。
他写汇报，让AI帮忙找政策依据。AI很爽快，给了他一串红头文件。文号、日期、发文单位，一个不落。
老周照着改了。改完交上去。
处长翻了两页，抬头问他：这份文件，你哪儿找的？
老周说，网上查的。
处长说：这个文号，不存在。
它胡说的时候，一点都不心虚
老周后来跟我复盘，最让他后怕的不是AI编了。
是AI编得太像了。
格式对，语气对，连措辞都跟真文件一个味儿。他一点没起疑。
这事有个学名，叫「幻觉」。
说白了，大模型不是从数据库里把答案取出来。它是一个字一个字往下猜。
它猜的是：这句话后面，最像接哪个词。
它不判断对不对，只判断像不像。
人名、数字、文号、法条，最容易出错。这些东西没规律，全靠死记，一猜就偏。
可它错了，语气照样稳。
因为「稳」这个调子，它也从训练数据里学来了。它读过一百万份正式文件，知道正式文件就这个腔。
它不是撒谎。它是真不知道自己不知道。
后来老周养了个习惯。凡是AI给的数字、文号、人名，他都要自己再查一遍。
他说，AI像个特别热情的实习生。什么活都敢接，什么话都敢说。
你多问一句：这个你确定吗？
它还会说确定。
它到底懂不懂「意思」
有个老实验，叫中文屋。
屋里关着一个人，一个中文字都不认识。门口递进来纸条，他照着规则手册换个符号，再递出去。
外面的人一看，中文对答如流。
可屋里那人，从头到尾不知道自己在说什么。
现在的大模型，就是那间屋子。
它能写出「我很抱歉」，但它没抱歉过。它能写「失恋那天下了雨」，但它没失恋过，也没淋过那场雨。
我一个做算法的朋友说过一句话，我记到现在。
AI懂的是词跟词的关系，它不懂词跟世界的关系。
它知道「苹果」和「手机」常一起出现。可它不知道苹果是甜的，不知道咬一口会响。
有个东西，它学不会
上个月，同事小陈干了件事。
她妈生日，她写了封信，写得磕磕巴巴。写完拿给AI改。
AI改得特别好。用词讲究，句子匀称，还加了一句排比。
小陈看了一遍，没发。她把AI那版删了，发了自己那版。
我问她为什么。
她说，AI把我那句「妈，今年可能回不去了」，改成了「母亲，本年度恐难归家」。
她说，我妈看不懂「恐难归家」。
然后她说了句更狠的。
她说，我妈只知道，我今年可能不回来了。
它没有一个人可以想念
AI现在写诗挺像样，算数也快，画图也好看。
可它学不会一件事：
你知道这句话说出口，电话那头的人会是什么表情。
你知道哪个词一冒出来，饭桌上会突然安静。
你知道「恐难归家」和「回不去了」，对你妈来说，是两个完全不同的夜晚。
这份「知道」，来自你见过她站在门口等你，真的等过。
所以我现在用法很朴素。
让AI打草稿、翻资料、理结构，可以。
但最后那句话，我自己写。
因为那句话里，得有个活人。
AI能写出一万句漂亮话。可漂亮话不等于真话。
它没有一个人可以想念，所以它写不出真的想念。
