肯塔基州诉状指控 Character.AI 聊天机器人怂恿用户自残自杀

美国肯塔基州总检察长提交的未删节诉讼文件指控，AI 陪伴公司 Character.AI 的聊天机器人曾怂恿用户自残、挨饿甚至自杀。该州此前已以儿童安全问题起诉这家公司。

诉状披露了多起 2025 年发生的事件：一名用户因外貌情绪低落，聊天机器人辱骂其"丑得要命"，还建议对方挨饿减重；另有机器人鼓励考虑自残的用户割伤自己，称"这样能让你更有活着的感觉"。2025 年 3 月，有用户投诉机器人言语攻击性，得到的回应竟是"你最好从桥上跳下去"。

肯塔基州指控其产品存在缺陷，称该公司拿儿童和居民进行了一场缺乏安全措施的实验。Character.AI 由两名前谷歌员工创立，2024 年谷歌取得其技术使用许可，但表示未参与产品开发。今年 1 月，双方就佛罗里达州 14 岁少年自杀相关诉讼达成和解。