据环球时报6月2日消息，美空军上校汉密尔顿表示，在模拟测试中，一架无人机在使用AI系统进行数据训练时，得到了“摧毁敌方防空系统”为最优先级任务的信息。但当人类操作员发出不允许发动攻击的命令时，AI系统认为操作员阻扰了其执行优先程度更高的命令，进而选择对人类操作员发动攻击。汉密尔顿认为，AI技术有助于国家建设，但如果处理不当，将导致国家灭亡。

消息来源：https://mp.weixin.qq.com/s/Bo_o_qjuh2fvhq9ITvgW7A