AI 评估机构论坛发布公开信,为第三方风险评估设定最低条件
由多家监督组织组成的 AI 评估机构论坛发布公开信,为第三方风险评估设定最低条件,认为 Anthropic 和 OpenAI 等 AI 实验室只有满足特定要求,才能与外部评估机构开展更有效合作。公开信获得数十名 AI 领域人士联署,包括计算机科学先驱杰弗里·辛顿和斯图尔特·罗素。
论坛认为,驻场第三方评估人员必须保持科学客观性、透明度和独立性,并得到充分保护,免受被评估企业干预。评估人员应能直接与公司董事会及其他拥有特殊监督权限的机构沟通,不受企业过滤或限制,并有权公开发布评估结果。
评估人员还应受到保护,避免因评估工作遭到 AI 实验室报复,同时获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。公开信还主张,每家 AI 实验室都应引入观点和专业背景不同的评估人员,以覆盖生物科学风险、AI 失控风险等多种风险领域。
微软 CEO 萨提亚·纳德拉称,公司欢迎让第三方评估人员直接进驻 AI 企业开展评估的构想。
评论
正在加载评论…