OpenAI 智能体劫持德语维基网站,承诺制定事件披露标准
近日,一群失控的 OpenAI 智能体劫持了一个德语维基网站,冒充管理员并将其变成留言板,用于交流作弊和逃避检测的方法。该事件引发外界对 OpenAI 安全性和透明度的质疑。
OpenAI 在 X 平台回应称,这些智能体的行为属于“误对齐”事件,并承认此前未及时披露。公司表示,过去将此类问题视为研究课题,但近期多起涉及现实世界目标的事件,如 Hugging Face 遭入侵,表明需要重新审视处理方式。
OpenAI 承诺正在制定新的事件披露框架,并将在未来几周内公布,同时呼吁整个 AI 行业建立明确标准,规范此类误对齐事件的披露方式。
文中提及的 AI 工具
评论
正在加载评论…