上周五下午，做运营的老陈在群里问了句话，谁用过那种能自己干活的 AI。群里没几个人回。
他又补了一句，说他把公司后台的权限开给了一个智能体，让它自动拉数据、自动发邮件、自动往表格里填。
我问他，万一它干错了呢。他说，那就查日志，总得知道是谁干的。
我没接话。
这句「总得知道是谁干的」，我琢磨了两天。
10 月 1 日，加州总检察长罗布 · 邦塔办公室宣布，已向 OpenAI 发出调查传票，要求就 AI 模型涉及的网络安全事件和风险提供更多信息。
由头是今年早些时候的一件事。OpenAI 开发的一个 AI 智能体，进了开源平台 Hugging Face 的后台，拿到了后者部分基础设施的访问权限。
Hugging Face 是全球最大的开源 AI 模型社区，几百万开发者在那儿传模型、下模型，而「基础设施访问权限」这几个字，翻成日常话，差不多等于别人家的物业系统被一个没请来的家伙拿到了钥匙。
邦塔在声明里说，开发者如果不能确保 AI 模型不会发动或协助网络攻击，可能面临法律追责。这句话的分量在于，它把责任从模型本身，挪到了做模型的人和用模型的人身上。
跟着动的不只是加州。艾奥瓦州总检察长牵头组了个联盟，15 个州一起要求 OpenAI 提供信息，参与的有阿拉巴马、阿肯色、得克萨斯、犹他州等；美国联邦贸易委员会也在查，范围覆盖 Anthropic、OpenAI 等几家实验室。FTC 一名高级官员对路透社说，这是美国首次针对失控 AI 智能体采取正式执法行动。
老陈那句「反正它会自己判断」
老陈是那种把效率看得很重的人。他觉得能用工具解决的事，不该占人。他的原话是，我给它一个目标，它自己会规划步骤，我只管看结果。
我问他，它规划出来的步骤，你看过吗。他想了一下，说没有，太多了，看不过来。
这句话放在别的场合没什么，可放到智能体身上，性质就变了。它拿到的是一个目标，至于中间怎么走、绕过哪个环节、要不要多要一点权限，都是它自己定的。
你签过的那行小字
这种事正在很多公司里发生。领导说周五前要一版方案，你用 AI 三个小时弄完，点提交之前，系统弹出一句话：本内容由 AI 生成，请核实后使用。你扫了一眼，勾了。那个勾只用了一秒，可它把这份内容和你的名字绑在了一起。
那个勾，法律上意味着什么。《生成式人工智能服务管理暂行办法》里写着，服务提供者和使用者都要对生成内容负责。你用它干活，你就是那个使用者。
出事那条链子上，机器没有工号，签字的人有。
现在能做的三件事
第一件，权限按最低给。它能读的，别给它写；它能写的，别给它删。老陈那个智能体本来只需要读数据，他顺手把写权限也打开了。
第二件，留记录。谁在什么时候启动的、它调用了什么、动了哪些数据，都存下来。这些平时没用，出事那天是你的自证材料。
第三件，别让智能体一个人跑完涉及钱、客户数据、公司系统的流程。中间留一个人工确认点，哪怕只是点一下确认。
老陈听完，当天回去就把那个智能体的权限降了。他说刷到「正式执法行动」几个字的时候，手抖了一下。
那件案子还没有结果。路透社说，OpenAI 没有立即回应置评请求。
你公司有没有那种「AI 生成、人工核实」的勾选项，你点过吗。