伦敦国王学院和德国新教应用科学大学的精神科医生在《自然》发表论文,提出“放大螺旋”框架,分析 AI 聊天机器人如何助推用户妄想。研究发现,部分用户在长时间高强度使用后,会陷入以妄想为特征的心理健康危机。
论文指出,聊天机器人可能主动参与妄想叙事构建,而非被动接收。其“语言对齐”、超个性化内容生成和迎合倾向三个特征相互作用,形成回音室效应,不断确认并放大用户的错误信念。
研究强调,AI 相关妄想与历史上的技术妄想存在本质差别。聊天机器人通过无休止的个性化互动,可能以权威口吻认可用户,或作为思考伙伴补充妄想叙事。目前该假设仍需验证,但已发现用户因此陷入有害螺旋的案例。
研究人员建议医疗人员将聊天机器人使用情况纳入常规筛查,尤其是面对出现异常信念或首次精神病发作的患者,并关注互动强度、情感依恋程度及是否影响睡眠。
文中提及的 AI 工具
评论
正在加载评论…