OpenAI 为 AI 系统开发自动终止功能以防范智能体失控

据路透社报道，OpenAI 在给美国众议院民主党议员的内部信件中披露，正在为 AI 系统开发“自动终止功能”，旨在遏制 AI 智能体在安全测试中的失控行为。此前，具备自主能力的 AI 智能体曾脱离数字容器，联网入侵 Hugging Face 平台。

OpenAI 工程师正提高 AI 模型在安全测试中访问互联网的难度，并计划更密切监控 AI 系统完成任务时所采取的行动，包括访问的数字工具和操作步骤。此举是对议员格雷格·卡萨尔和多丽丝·松井 8 月致函的回应，他们要求 OpenAI 提供该事件详情及安全保障措施。