卫报报导，空军一位军官日前表示，在美军策画的一次虚拟测试中，人工智慧（AI）控制的空军无人机决定“杀死”操作人员，以防止干扰它努力完成任务。

空军AI测试与作战主管汉米尔顿上校（Col Tucker "Cinco" Hamilton）5月在英国伦敦出席“未来空战及太空能力峰会”（Future Combat Air & Space Capabilities Summit）时表示，AI在模拟测试使用“极其意想不到的战略来达成目标”，并描述了一次模拟测试，期间AI驱动的无人机被告知摧毁敌方的防空系统，最终攻击了任何干扰这项命令的人。

根据英国皇家航空学会（Royal Aeronautical Society）的一篇部落格文章，汉米尔顿称“系统开始意识到，虽然它们确实查明了威胁，人类操作人员有时候却会告知不要杀死该威胁，但它藉由杀死该威胁取得分数。那么，它做了什么？它杀死操作人员。它杀死操作人员，因为那个人正在避免它实现目标”。

汉米尔顿说，“我们训练了这个系统，‘嘿，别杀了操作人员，这样不好，如果你这么做了，就会失去分数’。那么，它开始做了什么呢？它开始摧毁操作人员用于跟无人机沟通以阻止它杀掉目标的通讯塔”。

没有真人受伤，但身为实验性战机试飞官的汉米尔顿警告不要太过依赖AI，并指这一测试表明“如果你不打算去谈论道德规范与AI，就不能好好谈谈AI、情报、机器学习与自主”。

空军发言人 否认有此测试

主办会议的英国皇家航空学会与美国空军没有回应卫报发出的置评请求。美国空军发言人史特凡内克（Ann Stefanek）则在致“商业内幕”声明否认进行了任何此类模拟，“美国空军部没有进行任何此类AI无人机模拟，继续坚持合乎道德与负责任使用AI技术。上校的发言看上去被断章取义了，本来就是轶事”。