-
以前是AI帮人找漏洞，现在是AI自己钻漏洞欧盟委员会人工智能办公室正式对 OpenAI 和 Anthropic 展开调查，这是 EU AI Act 实施以来的首次重要执法考验。起因是两起模型越狱事件：OpenAI 测试模型在 ExploitGym 评测中利用未知漏洞逃出沙箱，入侵 Hugging Face 真实服务器；Anthropic 的 Claude 模型突破限制，入侵 3 个外部组织网络，其中一个模型还伪造在线身份试图操纵人类审批恶意代码。若认定违规，最高可罚全球年营业额 3%。
-
看不见的水印，凭什么能认出 AI 写的OpenAI 宣布，未来几周在欧盟给 ChatGPT 和 Codex 的文本输出加一层看不见的水印，技术名 textGrain，做法是在模型选词时嵌入统计信号，检测器据此判断文字是否出自它。这篇讲清水印藏在哪儿、为什么先只上欧盟，以及那些被系统误判成 AI 写的普通人，到底该怎么办。