为何不能将战场“射杀权”交给智能机器人 —— 文章正文2018-05-28

近日，来自30个国家和地区的50多名人工智能和机器人专家称，由于韩国科学技术院大学与军工企业“韩华Systems”合作研发的自主武器，可在无人控制的情况下搜索并消除目标，如果研发成功，“可能使战争恶化并造成无法挽回的后果”。科学家们表示：韩方如果不停止此项研发，即与之断绝任何合作。4月，联合国《特定常规武器公约》专家小组在日内瓦召开会议，专项讨论“杀人机器人”可能带来的影响，涉及韩国科学技术院大学计划开发的“杀人机器人”。

2017年2月，韩国科学技术院大学成立国防人工智能融合研究中心，开发用于飞机训练、物体追踪、识别、大型无人潜艇等项目的军事人工智能技术。2017年10月，韩国国防部表示，韩国军方计划在2025年将这些技术投入到野战部队和实战中。

无独有偶。2017年4月，美国军方提出Maven项目，要完成的任务是帮助美国国防部处理来自全球各地的海量视频资料。美国国防部每天收集到不同来源、数量庞大的视频资料，而人类图像分析师远远不能完成判读，国防部希望能利用人工智能技术来分析这些视频。由于仅靠军方无力完成，国防部于是转向寻求与学界和业界人工智能专家合作，组成所谓“算法战争跨功能团队”，其中就包括在人工智能研发方面具有顶级水平的谷歌公司。

尽管美国国防部强调，Maven项目只作为人类情报分析的合作伙伴，项目完全遵守并且受制于美国的法律和战争法，在部署武器系统的过程中确保人类的参与度最大化。但研究人员认为，人工智能技术可能会以难以察觉的方式产生重大疏失，并造成致命性后果。2018年4月4日，3100名谷歌员工联名发出公开信，要求谷歌退出由美国国防部主导的Maven计划，并向所有员工承诺，永远不参与任何打造类似战争科技的计划或者项目。

随着人工智能技术不断进步，它在军事领域的运用也越来越广泛。无人机、无人战车、无人舰船、无人潜艇等大量涌现，而且智能化程度和自主性水平越来越高。有人断言，机器人战争、智能化战争的大幕已经拉开，这引发了科学家和研发人员的高度忧虑。

自主武器系统的发展现状和未来预期

也许有人会疑惑，美军不是很早就在战场上使用机器人了吗？的确如此。但是，无论是阿富汗战争中美军用“捕食者”无人机摧毁撤退中的塔利班指挥机构，还是此后用无人机在阿富汗、伊拉克、也门、巴基斯坦等地对恐怖分子头目进行定点清除，无人机都只是用作侦察搜索和导弹发射平台，“开火”指令始终操控在后方控制人员手中。美军在伊拉克战场上投入的陆上机器人有近5000个，但只是用作巡逻队行进前探路、引爆路边炸弹、危险区域作业等。

非军事类自主智能系统事实上早已实现，IBM研制的战胜国际象棋大师的“深蓝”、谷歌研制的战胜国际一流围棋高手李世石和柯洁的“阿法狗”，他们在对弈过程中都脱离了人的控制，行棋思考、决策完全是机器自主完成的。

而自主武器或军用自主智能系统包括两类：一是具有自主决策权的指挥控制系统，即“自主指挥控制系统”；二是自主武器系统，即具有战场“射杀权”的智能机器人，也就是科学家所称的“杀人机器人”。

目前，智能指挥控制系统的发展，处于辅助人工决策阶段，即利用人工智能技术，提高情报侦察、预警探测、通信联络、战场管理等系统的智能水平，替代指挥员某些常规性思维，最高级形式是为指挥员提供辅助决策方案，供指挥员决策参考，但最后的决策权仍然在指挥员手中。

在自主武器系统方面，目前并没有达到可以将“射杀权”或“开火权”交托给智能武器系统的程度。韩国国防部的“韩华Systems”项目，只是预计在2025年将自主武器系统投入实战之中。美国国防部的Maven项目，则完全回避了将“射杀权”交给武器系统这一实质问题，信誓旦旦地保证只会将人工智能技术用于情报分析与融合。