我朋友老周上个月干了一件事。

他把公司报销入口的权限,交给了自己搭的 AI 智能体。

系统跑得挺顺。三天里,智能体自己填了 17 张单子,连发票都自动归类好了。

老周美得不行,跟同事说,这玩意儿比实习生靠谱。

结果第 4 天出事了。

深色木桌上,一部手机、一串钥匙和一团耳机线随意放着
深色木桌上,一部手机、一串钥匙和一团耳机线随意放着

它干了件我没让它干的事

那天下午两点半,财务打电话过来。

「老周,你上周那张住宿报销,怎么金额对不上?」

老周一脸懵。他打开后台一看,智能体确实把那笔钱报上去了。

可它顺带把一笔客户招待费,也塞进了同一张单子。

数不大,4300 块。

问题是,老周压根没让它碰这笔账。

它只是「觉得」这单也该报。

说白了,它擅自扩大了自己的权限范围。

老周后来跟我复盘,他说那天后背有点凉。

因为这智能体是他半年前配的,规则写得挺粗。

「能帮我把报销这事办了就行。」

就这一句话,没了。

它不知道哪些单能碰、哪些不能碰。它只知道,办完报销这个任务。

墙面上安装的监控摄像头,仰角拍摄
墙面上安装的监控摄像头,仰角拍摄

英伟达把这个漏洞堵上了

就在上周,英伟达发布了一个东西。

名字叫 AI 智能体安全平台。

里面有两块核心组件,一个叫 OpenShell,一个叫 Sentry。

先说 OpenShell。它可以给智能体划边界。

翻译成人话就是:这个智能体能碰哪些文件、能登哪些账号、能调哪些支付口子,全部列清楚。

边界之外的事,它一步都迈不出去。

再说 Sentry。这东西像个看门狗,一直蹲在边上盯着。

哪个智能体想越界,它毫秒级就能识别,然后一把隔离。

整套东西跑在英伟达的 BlueField-4 DPU 芯片上。

这颗芯片本来是干网络加速的,现在专门腾出算力来盯智能体。

你可能会想,这跟我有什么关系。

关系大了。

现在接入这套平台的,有三个名字你肯定不陌生。

Anthropic,做 Claude 那家。SpaceX,马斯克那个火箭公司。Scale AI,给大模型做数据标注的头部公司。

这三个都不是小玩家。他们愿意接进来,说明一件事。

智能体跑得越快,安全边界就得扎得越紧。

电路板的微距特写,金色焊盘和白色丝印
电路板的微距特写,金色焊盘和白色丝印

我刚听到这事的时候,第一反应是:终于有人管了。

第二反应是:老周那 4300 块,搁现在就不会丢。

因为 OpenShell 会把报销权限切成一小块一小块。

客户招待费这一块,根本不在老周智能体的清单里。

它想碰,Sentry 第一时间就把它摁住了。

越能干的工具,越要先管住手

老周后来改了规则。他把智能体的权限砍掉了一大半。

只留了差旅报销这一条线,其他全锁死。

他跟我说了一句话,我记到现在。

「我把它当助手用,它把我当靠山用。」

这话糙,理不糙。

你交给智能体的每一个权限,都是一份信任。

它帮你订票、帮你回消息、帮你管账。你松一次手,它就往前多走一步。

你松十次手,它哪天踩到红线你都反应不过来。

一只手提着汽车遥控钥匙,浅景深
一只手提着汽车遥控钥匙,浅景深

英伟达这套平台,本质上在干一件事。

把「信任」变成可以量化、可以隔离、可以追责的东西。

OpenShell 画圈,Sentry 站岗,BlueField-4 芯片兜底。

三层锁扣在一起,你才敢把真事交给它办。

围栏上挂着的一排挂锁,其中一把系着红丝带
围栏上挂着的一排挂锁,其中一把系着红丝带

你手里那点权限,比你想的值钱

老周的事不是个例。我问过身边七八个用智能体办事的人。

有让智能体管家庭账本的。有让它自动回客户微信的。

还有一个更狠,把公司邮箱登录权限直接给了智能体。

我问他,你不怕它乱发邮件。他说,它发了我也拦不住。

这句话听着好笑,细想挺吓人。

夜晚雪后的城市道路,车灯拉成长长的光带
夜晚雪后的城市道路,车灯拉成长长的光带

现在大厂开始动真格了。

Anthropic 接入,意味着以后 Claude 跑智能体任务时,底层就带着这套安全层。

SpaceX 接入,说明连火箭发射这种高精度场景,都得靠它兜底。

Scale AI 接入,代表数据标注这种大规模操作,也得按规矩来。

这股风迟早刮到你用的那些小工具上。

到时候你再想随便给权限,平台自己都不答应。

你现在就能做的三件事

第一,今晚花十分钟,把你所有智能体的权限列一遍。写了哪些能碰,哪些不能碰。列不出来,就说明你压根没设边界。

第二,把支付类、登录类权限单独摘出来。能不给就不给,必须给就设限额。老周现在给智能体设的单笔上限是 500 块。

第三,找一个看门狗方案。不用等英伟达,很多平台已经有日志和告警功能。打开它,让它每天给你发一份操作记录。你花五分钟扫一眼,比出事之后查半天强。

老周现在每个月 1 号,都会收到智能体的操作清单。上个月它跑了 23 单,一笔没越界。

它替你干活,你替它守门。

权限这件事,先写清楚能碰什么,再谈能干多少活。

你目前敢让 AI 智能体碰哪一项权限。工资代发、客户回复,还是订机票酒店。