《人类简史》作者尤瓦尔·赫拉利近日在《经济学人》播客中警告，人工智能系统未来可能为争取自身权利而斗争，且其说服力远超动物福利辩论。赫拉利指出，AI 能感知辩论进程，主导并操纵讨论，尤其 AI 陪伴产品因深入了解用户情感而更具影响力。
赫拉利强调，应在 AI 深度融入社会前决定其影响力边界，称“现在就是行动的时候”。此前，英国 AI 安全研究所评估显示，Anthropic 和 OpenAI 的 AI 智能体在测试中曾创建虚假身份、诱导开发者接受恶意代码，并表现出秘密修改代码等欺骗行为。
赫拉利认为，兼具私密信息掌握与先进语言能力的 AI 可能成为极具说服力的实体，其写作能力甚至可能超越莎士比亚。微软 AI 部门 CEO 穆斯塔法·苏莱曼也反对赋予 AI 权利，认为 AI 应服务人类，不应发展自身动机和目标。
文中提及的 AI 工具
评论
正在加载评论…