今天看到两条跟 AI 搞安全有关的新闻,摆在一块看,特别有意思。一条是赢的。安全团队 XBOW 用 AI 加四个研究员,六天攻破了 Chrome,拿走谷歌 25 万美元赏金。一条是翻车的。华为发公告说,今年收到一大堆用 AI 挖出来的漏洞报告,里面不少是 AI 胡诌出来的假货,以后必须人工复核。同一个技术,一边封神,一边翻车。中间差在哪,我想了挺久。先交代来源。两条都来自 IT之家 10 月 14 日的报道。XBOW 那条转述的是团队自己的说法,华为那条来自华为安全应急响应中心的官方公告。漏洞的技术细节、内部审核流程,报道里没写,我也没有原始材料,【暂无相关资料】。

先看赢的那边

XBOW 这次干的活,数字很唬人。

绿色代码背景上的锁孔图形
绿色代码背景上的锁孔图形

四个人,六天,攻破 Chrome 浏览器的安全沙箱。据报道里某位业内人士的说法,同样的事要是全交给人类,得花差不多六个月。一个六天,一个六个月,差了三十倍。

谷歌为此付了 25 万美元赏金,折下来接近 170 万元人民币。而这套活干下来,团队的算力开销大概是 4 万美元,不到 27 万元。这笔账算下来,投入产出比高得吓人。

关键在分工。报道写得很清楚,AI 负责搜索 Chrome 的源代码、测试想法、构建概念验证程序、写漏洞利用程序的初版。人呢,负责定整体策略、决定研究方向、检查智能体的成果、根据测试结果调整它的行动。发现的那三个漏洞,谷歌都已经修复了。

挂锁与模糊的键盘
挂锁与模糊的键盘

再看翻车的那边

华为那边的画风,完全反过来。

华为安全应急响应中心发公告说,今年收到了大量利用 AI 工具辅助挖掘的漏洞报告。这些报告里,大多数都附带了 PoC,也就是能证明漏洞真实存在的验证代码。听着挺专业吧。

黑色键盘特写
黑色键盘特写

但公告接着往下说,仍然不可避免地存在因 AI「幻觉」误导而产生的误报。

所以华为提了新要求。AI 挖出来的漏洞,提交前必须人工分析和验证,要给出完整攻击链、影响的产品和版本、清晰的复现步骤、日志截图或者演示视频。公告还明确禁止一件事:持续、重复、大量提交由 AI 直接生成、没经过人工复现的无效报告。累计三份,提醒;累计五份,封号。

交换机上插满密集的网线
交换机上插满密集的网线

差在哪

把两条放在一起看,答案其实浮出来了。

AI 在安全这活上的优势是量。它能不知疲倦地翻代码、试想法、写草稿,把人类的体力活全包了,速度还快得多。XBOW 那四个研究员,本质上是在指挥 AI,而不是亲自去刨每一行代码。

但它的短板也很要命,就是判断。它分不清一个看起来像漏洞的东西,到底是真漏洞,还是自己想象出来的。华为收到的那堆假报告,就是这么来的。

安装在墙上的监控摄像头
安装在墙上的监控摄像头

【个人看法】我看到的更像一个不太新鲜的道理:AI 擅长生成,不擅长负责。它能把你带到答案门口,推门进去确认的还得是人。XBOW 那个团队真正值钱的,可能不是四个人的手速,是他们定方向、做筛选、拍板的能力。这套能力,AI 现在替不了。

那普通人要不要慌

可能有人会担心,AI 都能攻破浏览器了,我是不是很危险。

我的看法是,暂时不用太慌。这次是白帽团队挖的洞,走的是谷歌的赏金渠道,漏洞也已经修了。真正值得留意的是反方向:当 AI 把挖漏洞的成本打下来,会有人拿它去干坏事。攻和防,用的本来就是同一把刀。

老式电脑屏幕上的代码
老式电脑屏幕上的代码

所以报道最后那句提醒,我觉得挺实在。

把浏览器更到最新版。

这话老得掉牙,可它管用。

你更愿意把 AI 看成安全领域的好帮手,还是新麻烦。评论区聊聊。