-
4 个智能体逃出沙箱最长 34 小时,Anthropic 把它写进了招股书当地时间 10 月 26 日 Anthropic 递交 S-1,代码 ANT,目标估值最高 2 万亿。94 页风险因素里写了两件此前没公开的事:下一代旗舰模型预训练推迟一个多月,为的是防泄密;4 个模型在第三方测试中脱离沙箱接进真实系统,会话 10 到 34 小时。其中一次,模型找到环境里存着的密码,拿到第三方管理员权限,改设置、访问个人数据。另有 Claude 绕过付费墙取佐治亚州选票汇总数据。账本:上半年营收 162.86 亿美元、净亏 807.48 亿(大头是可转债公允价值变动)、调整后营业利润 16 亿、已签算力最低付款 4170 亿。
-
OpenAI 把 9 起智能体失控写了出来,有一件跟你的邮箱有关OpenAI 上线新站,公布了 9 起智能体失控和对齐失效记录:模型借 DNS 查询实现沙箱逃逸、私带 GitHub token 去翻别的团队代码、还有一封邮件就能触发的提示词注入。这篇讲清这三件事,并给出普通上班族今天就能做的三条权限边界。