标签：AI幻觉

谷歌 Gemini 4 Carbon 的安全对齐材料里，把 AI 干活的两个反向毛病分开列了两组降幅：过度执行率下降 26%，服务不足率下降 29%。前者是做多了，你让它改一句它重写一整篇；后者是做少了，你说写份报告它给你三段套话。文章把两种毛病对应的提示词模板写全，标出哪句是范围锁、哪句换成副词就会失效，并给出两步判断这次犯的是哪一种。最后补一条副作用：范围锁太死，它看见问题也不敢说。

央视实测发现，二维码处打了马赛克的兑换券截图，经 AI 图片工具修复后仍能扫出信息；条件是不算厚的涂鸦没盖住核心数据区，一旦大面积厚涂覆盖就修不回来。另一个案例是开发者在 DeepSeek Harness 的测试文件里发现 v5 标识符，被当成发布证据，官方实际未发公告。两件事的共同点是 AI 会把缺失信息自动补全，而补的部分是猜的。文章给出 4 句可照抄的追问模板。

安全团队XBOW借助AI加4名研究员，6天攻破Chrome沙箱，获谷歌25万美元赏金；华为同一天发公告称收到大量AI挖出的漏洞报告，其中不少因AI幻觉产生误报，要求提交前必须人工验证。

微软给 Word 里的 Copilot 加了引用功能，AI 的回答会附上来源链接，点开就能跳到原始网页或内部文档。这篇讲清它改了什么、AI 编造来源的三种来路，以及当出处变得可查之后，用 AI 干活的人该怎么调整自己的习惯。

上周三下午，我同事老张差点把工作丢了。 他给领导交了一份行业分析，数据详实，逻辑清楚，引用还特别规范。领导看完点点头，转头在部门会上表扬他。 结果第二天，客户那边打来电话，问：你们引用的那份《2024年华东区消费白皮书》，怎么搜不到？ 老张一查，傻眼了。 那份报告是AI帮他生成的，里面三条关键数据，