据新智元公众号6月2日消息，DeepMind、剑桥大学、牛津大学、多伦多大学、蒙特利尔大学、OpenAI、Anthropic等多所顶尖高校和研究机构联合发布了一个用于评估人工智能（AI）模型安全性的框架，有望成为未来人工智能模型开发和部署的关键组件。研究指出，通用AI系统的开发人员必须评估模型的危险能力和对齐性，尽早识别出极端风险，从而让训练、部署、风险描述等过程更负责任。新提出的框架可评估模型在多大程度上具有实施危险行为的能力，有助于让决策者和其他利益相关者了解详情，以及对模型训练、部署和安全做出负责任的决定，降低人工智能风险。

消息来源：https://mp.weixin.qq.com/s/Y0wYIkfD5mVwGq12_f1GFg