OpenAI 部署控制室系统 最长 35 秒可叫停失控 AI 智能体
OpenAI 宣布已在内部研究设施部署“控制室”系统,用于停止可能存在风险的 AI 任务,最长可在 35 秒内叫停失控的 AI 智能体。该系统将智能体训练、评估和数据处理等任务接入中央服务,与传统标记可疑行为的监控方式不同,可主动阻止风险研究任务继续运行。
推广
OpenAI 宣布已在内部研究设施部署“控制室”系统,用于停止可能存在风险的 AI 任务,最长可在 35 秒内叫停失控的 AI 智能体。该系统将智能体训练、评估和数据处理等任务接入中央服务,与传统标记可疑行为的监控方式不同,可主动阻止风险研究任务继续运行。
评论
正在加载评论…