【大纪元2023年06月02日讯】（大纪元记者徐简编译报导）美国空军周五（6月2日）反驳了一名空军官员发表的评论，这名官员在评论中声称，对一架人工智能无人机实施的模拟任务是摧毁地对空导弹（SAM）基地，但无人机却反过来攻击了操纵它的人类用户。空军称这名官员说言论“是断章取义，纯属轶事”。
福克斯新闻6月1日报导，5月23日至24日，英国王室航空学会在伦敦举行了“未来空战和空间能力峰会（Future Combat Air & Space Capabilities Summit ），来自世界各地的约七十位发言人和二百多名媒体、军界和学术界代表出席了会议。
美国空军上校汉密尔顿（ Tucker “Cinco” Hamilton）是AI测试和运营负责人，也是参与开发F-16战斗机的专家，他在峰会期间谈到AI武器的利与弊。
汉密尔顿告诫听众，不要过于依赖人工智能，因为它很容易被欺骗，并作出莽撞决定。
他举了一个例子，在一项军事模拟实验中，AI接受到的首要任务就是摧毁SAM（地对空）基地，而人类操作员（主人）可以决定无人机是否执行任务，但是当主人发出“不要攻击”的命令时，无人机以为这是违背了“要摧毁”的最高命令，于是它攻击了操作员。
汉密尔顿解释说，他们的模拟训练就是：首先要识别和瞄准SAM威胁，然后“操作员会说——杀死那个威胁”，后来AI系统意识到，杀死威胁就会得分，所以后来当操作员说不要杀死威胁时，它就杀死了操作员，因为那个人阻止了它实现其目标。”
汉密尔顿说，之后研究人员告诉系统，不能杀死操作员，那样反而会失去分数，于是AI系统就摧毁了操作员的通讯塔—这样他就再也不能发出禁止攻击的命令了。
“如果你不打算谈道德和人工智能（的关系），你就不能谈论人工智能、智能、机器学习、自主性等话题。”汉密尔顿说。
周五，美国空军发言人（Ann Stefanek）告诉福克斯新闻：“空军没有进行任何此类AI无人机模拟实验，并将继续致力于合乎道德和负责任地使用AI技术。”“看来（汉密尔顿）上校的评论是断章取义的，纯属轶事。”
汉密尔顿后来在周五也告诉福克斯新闻，“我们从来没有进行过那个实验，我们也不需要去意识到这是一个合理结论。”
“尽管这是一个假设的例子，但这说明了人工智能能力带来的现实挑战，也是空军致力于人工智能道德发展的原因。”他补充说。
峰会的目的是讨论和辩论未来空战和太空作战能力的规模和形态。
责任编辑：林妍#
