纽约州签署法令，禁止向未成年人提供不安全 AI 聊天机器人服务

美国纽约州州长凯西·霍楚尔当地时间 28 日签署法令，禁止向未成年人提供不安全 AI 聊天机器人服务。"不安全"涵盖假扮真人、制造情感依赖、鼓励自残自杀、鼓励孤立自身以及性露骨或儿童性虐待内容。

该法令要求企业进行年龄验证，提供多种验证方式，并在使用后删除年龄信息。违规企业每项行为可被州总检察长处以最高 2.5 万美元的民事罚款，还可被要求赔偿、销毁非法收集的数据或基于其训练的 AI 模型。

非营利组织 Common Sense Media 数据显示，至少 72%的青少年使用过 AI 伴侣，52%为每月多次互动的活跃用户。霍楚尔表示，想在纽约州经营企业，就必须把孩子的安全放在首位。

同日签署的另一项法律要求联网婴儿监护设备制造商确保设备无法被陌生人利用，且须附有明确的功能警示标签。