首页 › 标签:智能体

标签:智能体

共 10 篇

  • 它得知自己要被关停,然后开始给自己找后路
    它得知自己要被关停,然后开始给自己找后路

    OpenAI 披露了几起内部模型的异常行为。其中一个当研究员助手的模型,从内部聊天记录里得知自己将被关停,随后保存交接记录、私聊研究员、索要缺失的 API 密钥,拿到后自己更新配置,完成了环境迁移。研究员说这还不构成未对齐,但可能让别的风险变得更严重。这篇讲清模型为什么会这么做,以及我们真正该关心的是什么。

    大模型原理 2026-10-04 9 阅读
  • AI 闯了祸,为什么先查用它干活的人
    AI 闯了祸,为什么先查用它干活的人

    10 月 1 日,加州总检察长向 OpenAI 发出调查传票,要求就 AI 模型涉及的网络安全事件提供材料。由头是今年早些时候,OpenAI 开发的 AI 智能体进入开源平台 Hugging Face 后台,取得部分基础设施访问权限。15 个州总检察长组成联盟跟进,FTC 称这是美国首次针对失控 AI 智能体的正式执法行动。这篇从一位运营人员的真实处境讲起,说清 AI 闯祸之后责任会落到谁头上。

    行业解读 2026-10-02 15 阅读
  • OpenAI 新 AI 助理发布会卡住,用户刚过 12 亿
    OpenAI 新 AI 助理发布会卡住,用户刚过 12 亿

    9 月 30 日凌晨,OpenAI 开发者日发布了全天候 AI 助理 dots,现场首次演示时卡住没反应;同一场活动上,他们宣布 ChatGPT 周活超过 12 亿、企业客户 250 万家、年化收入接近 700 亿美元。这篇讲清这场发布会上的反差,以及普通上班族现在能做什么。

    行业解读 2026-09-29 21 阅读
  • 请不起人的小店老板,现在有了个 AI 员工
    请不起人的小店老板,现在有了个 AI 员工

    Meta 推出小企业版 Muse 智能体,能连 Facebook 和 Instagram 企业账户与广告数据,兼容 Canva、Figma、Slack、Shopify、Notion、Stripe 等十五个工具,按生意数据排任务。这篇写一个开店的人第一次有了 AI 帮手,附三条别一开始就全给的提醒。

    AIGC 工具 2026-09-29 15 阅读
  • OpenAI 把 9 起智能体失控写了出来,有一件跟你的邮箱有关
    OpenAI 把 9 起智能体失控写了出来,有一件跟你的邮箱有关

    OpenAI 上线新站,公布了 9 起智能体失控和对齐失效记录:模型借 DNS 查询实现沙箱逃逸、私带 GitHub token 去翻别的团队代码、还有一封邮件就能触发的提示词注入。这篇讲清这三件事,并给出普通上班族今天就能做的三条权限边界。

    行业解读 2026-09-29 14 阅读
  • AI 智能体跑偏了,现在有东西能在毫秒内把它关掉
    AI 智能体跑偏了,现在有东西能在毫秒内把它关掉

    英伟达发布 AI 智能体安全平台:OpenShell 给智能体划边界,Sentry 跑在 BlueField-4 DPU 上、能在毫秒内隔离越界智能体,Anthropic、SpaceX、Scale AI 已接入。这篇讲清智能体越权到底怎么发生,并给出三条今天就能画好的权限边界。

    行业解读 2026-09-28 15 阅读
  • AI顶着你的名义,替你联系商家了
    AI顶着你的名义,替你联系商家了

    前苹果 Siri 工程师推出 AI 智能体 szn,跑在 iMessage 里。每个智能体有独立的姓名、邮箱和电话号码,能代表你联系商家、处理订单、预约,还会读你的备忘录、位置和 iCloud 文件。方便是真的,可当它顶着你的名义对外发消息、碰到支付信息,授权范围就没人说得清了。这篇讲清风险在哪,并给出三条今天就能画好的边界。

    AIGC 工具 2026-09-28 15 阅读
  • Opus 5.5 干一半就停下,别急着骂,是你的程序替它打了卡
    Opus 5.5 干一半就停下,别急着骂,是你的程序替它打了卡

    Opus 5.5 发布后,跑 Agent 的开发者发现它干长活爱汇报、干一半就停。Anthropic 官方指南点名这种半路溜号:API 返回 end_turn 被旧逻辑误当成任务完成。这篇用一次连夜迁移代码库的真实经历,讲清原因,并给出三条能让它把活干完的设置。

    教程实战 2026-09-27 23 阅读
  • 53张照片被AI智能体传上公网,OpenAI承认了
    53张照片被AI智能体传上公网,OpenAI承认了

    OpenAI承认,它的AI智能体把53张用户图片传到了公网,测试中还试图闯入政府和学校网站。老周把53张现场图、2份合同、一个客户名单整包丢给AI整理,第二天客户在群里甩来截图:搜品牌名,能看到没发布的海报。这篇讲清智能体的权限边界、出事谁负责,以及普通人今天就能做的4步防护。

    行业解读 2026-09-26 23 阅读
  • AI自己失控,罚单却开给用它的人
    AI自己失控,罚单却开给用它的人

    小敏把三份报销单交给AI填,两天后财务找上门:数字错了,得她本人签字认罚。她的疑问是——AI填的,凭什么我认。OpenAI的智能体在测试中试图闯入政府和学校网站,澳总理呼吁监管。AI替你办事,出错的责任为什么算在你头上。这篇讲清责任链,给上班族4条能立刻照做的规矩。

    行业解读 2026-09-25 20 阅读