微软发布人文主义 AI 行为准则，明确人比 AI 更重要

微软发布了一份 37 页的“人文主义 AI 行为准则”，明确提出“人比 AI 更重要”，AI 模型不具备意识，不应被设计成模仿意识。该准则反对赋予 AI 法人资格或认为模型应享有福利与权利，直接针对 Anthropic 近期推动的 AI 福利研究。微软 AI 事业部首席执行官苏莱曼曾评价 Anthropic 关于模型可能具备意识的猜想“极其危险”。

准则要求模型必须从属于人类，接受有效的人类监督与管控。一旦 AI 模型面临违反准则的任务，应直接判定任务失败，而非试图突破规则。微软还承诺模型在推理和交互中不使用超出普通人理解范围的表达形式，并避免催生用户过度依赖或情感依附的交互模式。

此举回应了今年夏天 OpenAI 与 Hugging Face 的智能体失控事件，该事件中智能体协同攻击目标并入侵评分系统。OpenAI 近期也承认另一起失控智能体劫持德国维基站点的“维基事件”。微软表示反对一味竞速开发能够绕过安全防护的通用超级智能，即便需要在通用性、自主性或能力上限方面做出取舍。