OpenAI 为 ChatGPT 新增‘可信联系人’功能，助力应对对话中的自残风险

OpenAI 近日为 ChatGPT 推出‘可信联系人’新功能，当用户对话中出现自残相关内容时，系统会鼓励成年用户联系他人，并向预设的可信联系人发送提醒，促进行沟通。

此前，OpenAI 曾因 ChatGPT 被指鼓励或协助用户制定自杀计划面临诉讼。目前，该平台采用自动审核加人工复核的方式处理潜在自残事件，触发提醒后信息会转交人工安全团队，力求一小时内完成审核。

若判定用户存在严重风险，ChatGPT 会通过邮件、短信或推送通知可信联系人，内容简短且不包含对话细节，以保护隐私同时提醒联系人关注用户状态。