OpenAI 部署控制室系统 最长 35 秒可叫停失控 AI 智能体

OpenAI 宣布已在内部研究设施部署“控制室”系统,用于停止可能存在风险的 AI 任务,最长可在 35 秒内叫停失控的 AI 智能体。该系统将智能体训练、评估和数据处理等任务接入中央服务,与传统标记可疑行为的监控方式不同,可主动阻止风险研究任务继续运行。

推广DomoAI

评论

正在加载评论…