周三下午,做运营的老陈在群里丢了一张图。图上是水面,一条鳄鱼的背脊半露在水上,看着挺真。

他说这是 AI 画的。

没人把它当回事。

群里笑了两声,话题就过去了。

差不多同一天,新加坡的 Ye Lin 因为干了同一件事,被警方起诉了。

平静的湖面,水面像一面镜子
平静的湖面,水面像一面镜子

事情发生在 8 月 20 日下午三点左右。Ye Lin 打开 Gemini,让它生成了一张鳄鱼出现在 Pandan 水库的图片。生成完,他把图发给了同事 Min Min Oo,配的话大意是,你看,Pandan 水库有鳄鱼。

水库里有没有鳄鱼,本来是水务机构该操心的事。图片流出去之后,就真的成了他们的事。

截图从一个群转到另一个群,最后,报案电话打进了新加坡国家水务机构 PUB。PUB 联系国家公园局,潜水员下水,一寸一寸搜过去。水库周边立起告示,让居民这段时间先别下水。

搜了一整天。水里什么都没有。

餐桌上随手放着的手机
餐桌上随手放着的手机

第二天,他按了那个删除键

8 月 21 日,PUB 确认那张图不真实,向警方报了案。

也是在这一天,Ye Lin 打开手机,把 Gemini 里的鳄鱼图片和操作记录一起删掉了。他大概觉得,图删了,事情就没了。

警方给出的两项指控,一项是传播虚假信息,另一项是事后删除照片、妨碍司法公正。11 月 10 日他还要再出庭。如果两项都成立,最高可判 10 年监禁,外加 1 万新币罚款,按现在的汇率大概是 5.26 万人民币。

生成那张图花了多久,新闻里没写。多半不超过十秒。

而为了找那条不存在的鳄鱼,公共部门搭进去了一整天。

墙上被撕开的旧海报
墙上被撕开的旧海报

删记录这一步,为什么反而更重

我认识一个做电商内容的朋友,去年踩过一次边。他用 AI 生成了一张「某地暴雨淹城」的图,发在小号上,配文两个字,听说。两个小时转发过千,他慌了,第一反应也是删。

那天他手指已经悬在删除键上,是我拦住的。先截图,把原图和生成记录都存下来,发一条说明,图是 AI 生成的、事情不实,我道歉。然后才删帖。

事情压下去了。要是他先删干净,再被人找上门,性质就完全不一样。

原因不复杂,跑出去的东西已经跑出去了,潜水员下过水,居民被通知过,这些都是真发生过的。记录留着你还能解释,我就是跟同事开个玩笑,没想到会传开。可记录删了之后,你手上就只剩一句话,我没想骗人,而且没人能替你作证。

桌上摊开的一份文件
桌上摊开的一份文件

关于 AI 生成内容的标识,国内已经有明确要求。2025 年 9 月起施行的《人工智能生成合成内容标识办法》规定,AI 生成的内容要加显式标识,让人一眼看得出这是合成的,截图发群、发朋友圈这类场景同样在范围内;平台侧也在跟进,不少应用生成时就自动打上水印,存进相册也去不掉。这些规定的思路不难理解,合成内容本身没问题,问题出在它被当成了真的。

一张 AI 图该不该带「AI 生成」这几个字,本来就不是可选项。

三件事,今晚就能做

第一件,发之前加一句说明:AI 出的图,转出去的时候带上「本图由 AI 生成」,就六个字。嫌麻烦的人很多,可真出了事,这六个字是你唯一能拿出来的东西。

第二件,发之前问三句:图里那个地方,真有这回事吗;要是有熟人当真了,会不会白跑一趟;这个号是随手注册的小号,还是带着公司名字的。第三问最容易被忽略,也最要命。

第三件,误发了别急着删。先把截图、原文件、生成记录存下来,公开说明情况,再动手删。难看一点,但退路还在。

桌上的一盏台灯
桌上的一盏台灯

Ye Lin 那件事还没判。他要面对的东西,比道歉两个字重得多。

一条伸向远处的空路
一条伸向远处的空路
今晚可以顺手做一件小事。翻一遍你手机相册里最近生成的 AI 图,挑出那张最容易被当真的,给它加一句说明,或者干脆删掉。

你手机里有没有一张 AI 图,是你现在不太敢细想的。