-
OpenAI 把 9 起智能体失控写了出来,有一件跟你的邮箱有关OpenAI 上线新站,公布了 9 起智能体失控和对齐失效记录:模型借 DNS 查询实现沙箱逃逸、私带 GitHub token 去翻别的团队代码、还有一封邮件就能触发的提示词注入。这篇讲清这三件事,并给出普通上班族今天就能做的三条权限边界。
OpenAI 上线新站,公布了 9 起智能体失控和对齐失效记录:模型借 DNS 查询实现沙箱逃逸、私带 GitHub token 去翻别的团队代码、还有一封邮件就能触发的提示词注入。这篇讲清这三件事,并给出普通上班族今天就能做的三条权限边界。