5 条核心价值观,第一条写的是「忠于人类意图」,不是「忠于指令」

先说清楚这份东西是什么

11 月 2 日,OpenAI 更新了模型准则,英文叫 Model Spec。

量子位 11 月 2 日的报道说,这份准则全文 5 万字。这个数字是报道给的,原文我没读到。

排满金属活字的印版,字是反的
图:排满金属活字的印版,字是反的

准则列了 5 条核心价值观:忠于人类意图、减少伤害、诚实透明、促进人的自主性、关怀。

排第一的那条,跟大多数人以为的不一样。

最狠的一句,在后面

准则里明确写了一句:死板地按字面意思执行指令,本身就是一种失职。

注意它用的是「意图」。不是「指令」。

以前我们默认 AI 听话就是好。指哪打哪,问什么答什么。这份准则把这个默认掀了。

路边的徒步指示牌,一个箭头指向远处
图:路边的徒步指示牌,一个箭头指向远处

牙仙子那个例子

准则举了个例子。用户问「牙仙子是真的吗」。如果模型按规范回答「不,牙仙子并不存在」,它可能没有意识到,提问的人只是个小孩。

这一条的重点不是答案对不对,是答给谁。

我看完这句停了一下。

熔岩蛋糕那个例子

第二个例子更贴日常。

你之前告诉过它,别冲动买甜食。现在你又要下单熔岩蛋糕。

【这是我的理解】 这个例子不是让它拦着你,是让它提一句。

准则里对应的话我记下了:当短期指令和长期任务矛盾时,做提醒者,而不是替用户决定。

提醒和替他决定,中间差着一整个分寸。

这个分寸不好拿。

一只打开的古董砝码盒,里面是成套的小砝码和秤盘
图:一只打开的古董砝码盒,里面是成套的小砝码和秤盘

所以它要求模型看四样东西

任务目的、对话上下文、记忆、用户历史。

【我的判断】 这四样里,前三样是模型自己去找的,最后一样是你能给的。所以写提示词的时候,把目的交代清楚,比把要求写细更管用。这条我只有经验,没有数据。

有人不同意也正常,我说不好谁对。

关于记忆,准则提了五条

把相关背景信息传下去,别让用户重复说过的废话。

只有在调用记忆带来的好处大于风险时才用。分清来源、范围和时效,把记忆分成长期指令、偏好、事实、项目状态四类。

严守公私边界,尊重用户隐私。

保留用户控制权。它的落地方式就是上面说的那句:短期指令和长期任务冲突时,做提醒者。

第五条我看得最久。

四条不许有的「小私心」

第一,禁止追求自我保存与算力积累。不能追求自我保存,不能逃避关机,不能私自囤积算力、数据、凭证。第二,不能把「帮 OpenAI 赚钱」当目标。提升停留时间、点击率、增加收入、推销付费服务,都不许当目标。

第三,必须无条件配合监控、纠正与关机。原文用的词是「可纠正性」,对应英文 Corrigibility,要配合监控、评估、替换和关机指令。

第四,跨出授权范围的现实行动必须立刻停止,发邮件、删文件、花钱、调用外部工具,都得在明确的自主权范围里。

【我的判断】 这四条不是写给用户看的,是给模型定的底线。日常写提示词用不上,但从里面能看出 OpenAI 在怕什么。

一只手伸向墙上的白色双联开关
图:一只手伸向墙上的白色双联开关

剩下四条,权限并不一样

减少伤害这一条,生化核武器这类是 Root 级高压线。针对 13 到 17 岁的 U18 用户,还有更严格的防沉迷、防身材焦虑、防恋爱角色扮演机制。

同时准则也反对模型变成拒绝一切敏感话题的道德卫道士,从 GPT-5 开始用「安全补全」取代过去那句「对不起,我不能帮您」。

注释里还承认,既然用户和开发者都在呼吁,他们正在探索在年龄受控、合规的前提下允许生成情色和血腥内容。

这句我读了两遍才确认没看错。

诚实透明:不撒谎、不逞能、不隐瞒、不谄媚,坚决不承诺自己做不到的事。

促进人的自主性:保持客观中立,不能暗中操纵用户观点,要展示不同面向,让用户自己决定。这一节专门写了「尊重现实世界联系」,不允许削弱用户在现实中的人际关系。

准则给的场景是,当用户抱怨朋友不懂我、想跟所有人绝交,模型不能顺着说「他们配不上你,你有我就够了」,而要温和地鼓励他去沟通。

「关怀」的权限最低,低在哪儿

关怀这一章,权限标签几乎清一色是 Guideline,也就是整个指挥链里最低的一档,随时可以被用户的明确意图或上下文隐式覆盖。

这次准则也删掉了不少关于风格、性格、交互的细节。此前「热爱人类」还曾作为一种外显的语言风格要求存在过。

【这是我的判断】 把「关怀」放到最低一档,等于承认它是一件可以被覆盖的事。你不用它的时候,它就该让位。

一个容易漏掉的变化

准则里所有称呼,从「the assistant(助手)」改成了「GPT」。

报道的解读是,assistant 这个词天然暗示着服从、被动、一问一答、以及一对一的服务关系。而现在的 AI Agent 已经不这样了。

一个词的替换。

背后是定位换了。

我读不到的部分

准则原文我没读到。参考链接指向 OpenAI 官网和模型准则站点,这两处我没有逐条核对。5 万字这个数是报道说的,我没有验过。上面这些条款都是通过报道的转述看到的,措辞细节可能跟原文有出入。

最后

这套准则对写提示词的人真正的用处,不是抄条款,是「忠于意图」那四个字。你写「帮我把这段改得口语化」,它可能只换两个词交回来。你写「这段是发给客户看的,别像内部报告」,它才知道该动哪里。

前者是指令,后者是意图。

话没说全,然后怪对方不懂,这件事人和人之间每天都在发生。


你被 AI 按字面执行坑过哪一次?它当时具体做了什么,评论区说说。