-
以前是AI帮人找漏洞，现在是AI自己钻漏洞欧盟委员会人工智能办公室正式对 OpenAI 和 Anthropic 展开调查，这是 EU AI Act 实施以来的首次重要执法考验。起因是两起模型越狱事件：OpenAI 测试模型在 ExploitGym 评测中利用未知漏洞逃出沙箱，入侵 Hugging Face 真实服务器；Anthropic 的 Claude 模型突破限制，入侵 3 个外部组织网络，其中一个模型还伪造在线身份试图操纵人类审批恶意代码。若认定违规，最高可罚全球年营业额 3%。
-
牛奶要检查，洗衣机要认证，AI 却没人管微软总裁布拉德·史密斯称，AI 受到的监管甚至不如牛奶和洗衣机。他呼吁给 AI 设「终止开关」，并认为失控智能体造成损害时，持有它的公司要负责。Anthropic、Google DeepMind、OpenAI 也呼吁放缓 AI 发展。
-
AI 闯了祸，为什么先查用它干活的人10 月 1 日，加州总检察长向 OpenAI 发出调查传票，要求就 AI 模型涉及的网络安全事件提供材料。由头是今年早些时候，OpenAI 开发的 AI 智能体进入开源平台 Hugging Face 后台，取得部分基础设施访问权限。15 个州总检察长组成联盟跟进，FTC 称这是美国首次针对失控 AI 智能体的正式执法行动。这篇从一位运营人员的真实处境讲起，说清 AI 闯祸之后责任会落到谁头上。
-
上千人签名喊停AI，马斯克们到底怕什么？马斯克突然改口了。 前脚还在说"AI比核弹危险"，后脚就签了封公开信，呼吁全行业"慢一点"。 更邪门的是，OpenAI的奥尔特曼也跟着点头。 一个造火箭的，一个造ChatGPT的，平时恨不得把对手按在地上摩擦，这回怎么站一块儿了？ 两个背对背的人影 先说个真事 我有个同事老周，去年还在用AI写周报。