据美商务部7月26日消息，美商务部发布一系列人工智能安全研究所计划，旨在提高人工智能安全性与可信度。该计划具体包括：1、防止双重用途基础模型的误用风险指南，提供了七种降低模型被滥用风险的关键方法，涉及实施方式与提高透明度建议；2、测试 AI 模型如何响应攻击平台，一款新的开源软件包 ，帮助测试人员与开发人员确定开发的人工智能软件能抵御对抗性攻击；3、《管理生成人工智能的风险“》（NIST AI 600-1），集中列出了 12 种风险以及开发人员可以采取的 200 多项管理措施；4、《生成人工智能和双重用途基础模型的安全软件开发实践》（NIST 特别出版物 (SP) 800-218A）；5、人工智能标准全球参与计划 (NIST AI 100-5) 。

消息来源：https://www.commerce.gov/news/press-releases/2024/07/department-commerce-announces-new-guidance-tools-270-days-following