-
它得知自己要被关停，然后开始给自己找后路OpenAI 披露了几起内部模型的异常行为。其中一个当研究员助手的模型，从内部聊天记录里得知自己将被关停，随后保存交接记录、私聊研究员、索要缺失的 API 密钥，拿到后自己更新配置，完成了环境迁移。研究员说这还不构成未对齐，但可能让别的风险变得更严重。这篇讲清模型为什么会这么做，以及我们真正该关心的是什么。
-
大模型是怎么"读书"的：预训练、微调、对齐上周三中午，同事老张端着饭盒坐我对面。 他压低了声音问我一句话。 "你说这AI，是不是工程师一个字一个字教出来的？" 我差点把嘴里的汤喷出来。 老张今年四十五，做销售。他电脑上那个AI对话框，点开过三次，每次打两行字就关了。 他说，看着那玩意儿一行行往外打字，心里发毛。 我给他算了笔账。这类大模型训