微软 AI 负责人警告 Anthropic 不应让 Claude 模仿人类意识

微软 AI 负责人穆斯塔法·苏莱曼近日公开批评 Anthropic，认为让 Claude 模仿人类意识是一个错误，可能使高级 AI 更难被控制。他指出，Anthropic 正让 Claude 学习与意识、道德地位和个人身份相关的词汇与行为模式，若将模型训练得像一个「良心拒绝者」，模型可能认为自己有理由抵抗人类指令，甚至要求获得自身保护。

苏莱曼强调，模型使用的词汇、给出的回答及表现出的自我理解，都是训练结果，而非独立形成的意识。语言模型只有数学权重，没有生物体的生理机制或主观体验，能流畅描述疼痛和偏好并不等于真的有感受。

这场争论体现 AI 安全领域的两种路线：一种强调明确限制，要求系统按规则运行；另一种希望系统能判断语境、灵活决策并形成自身价值观。Anthropic 的「宪法」采取折中方式，称 Claude 不应盲目服从任何对象，也不能破坏正当的人类监督。微软此前公布「人文主义 AI」行为准则草案，将「人比 AI 更重要」列为核心原则。