查看“以色列再推“杀人机器” 可全自主运行研究人员：武器自主瞄准人类的“红线”已被越过”的源代码

红星深度 2021-09-16

据外媒15日报道，本周一，以色列一家军工承包商公布了一款携带两支大型机关枪的新型遥控武装机器人。报道称，这是该公司过去15年里开发的6款自主武器中最先进的，令人担忧的是，这款机器人在一定程度上可以自主运行。

据介绍，这款名为“REX MKII”的半自动机器人由以色列航空航天工业公司（Israel Aerospace Industries）开发，是“美洲虎（Jaguar）”的加大版本，可用于战区巡逻保护士兵、追踪入侵者并向其开火。此前，以色列军方一直在局势动荡的加沙地带边境地区使用“美洲虎”巡逻。

该公司自主系统部门副主管Rani Avni说，这款机器人由一台平板电脑远程操作，配备两支机枪、摄像头和传感器，可以为地面部队收集情报，运送受伤士兵和补给进出战场，并打击附近的目标。
[[文件:杀人机器1.jpg]]

以色列“REX MKII”亮相。

除了监视和移动，“REX MKII”仍需要人类通过平板电脑远程操作。每次任务中，设备都会收集更多的数据，为未来的任务学习。

不过，有批评人士担心，这种类似“杀人机器”的武器很可能会自行决定射击目标，且并不排除错误识别目标的可能性。Rani Avni在接受采访时承认，这款武器本身的确可以自主运行。他同时表示：“让武器本身具有自主性是可能的，这种功能是存在的，但目前还没有向客户开放，目前系统或用户还不成熟，因此射击目标仍由客户（远程）决定。”
[[文件:杀人机器2.jpg]]
以色列“美洲虎”巡逻车。

这一言论更让批评人士担心，这款新型武器的诞生，标志着自主机器人在做出“人类生死决定”方面又迈出了危险的一步。他们表示，现在是时候行动了，国际社会需要团结一致，结束机器人在战场上自主行动。

“红线”已被越过

近年来，自主武器正在迅速重塑现代战场，但全球对于致命自主武器的使用早已敲响了警钟。

美国、英国和俄罗斯等各国军队越来越多地部署无人地面车辆，用于执行后勤保障、排雷和射击等任务。在近期的武装冲突之中，如亚美尼亚和阿塞拜疆、以色列和加沙地带的哈马斯之间的冲突，各种类型的自主武器被广泛使用。
[[文件:杀人机器3.jpg]]
倡导武器控制的宣传电影《机器人屠杀》场景图。

尽管研发者声称，这些武器都是通过平板电脑远程手动控制的，但实际上，它们的许多功能，包括移动、监视系统甚至开火等，已完全可以自主运行。

哈佛大学法学院讲师邦妮·多切蒂表示，这类武器的存在和不断升级令人担忧，因为人们不能相信它们能区分战斗人员和平民，也无法正确判断袭击可能对附近平民造成的伤害。早在2012年的一份报告中，多切蒂便开始呼吁国际法禁止全自动武器。而现在，呼吁终结致命自主武器系统的声音越来越大了。

STM“Kargu-2”型无人机

据联合国安理会今年5月出炉的一份报告，在利比亚的一场内战之中，历史上首次，一架土耳其制造的“STM Kargu-2”军用无人机在没有接到任何指令的情况下自主对人类发起了袭击。这意味着，电脑已经开始决定自己的袭击目标了，一个“以自主武器杀戮为主”的“战争新时代”可能已经悄然开启了。

一组研究人员表示：“我们真应该担心了，更明确地说，自主武器瞄准人类的红线已经被越过了。”

最后的“窗口期”

人工智能武器被认为是核武器后全球的第三次战争革命，将生死决定权交给而人工智能算法面临道德问题。此外，反对者还指出，因为无需人类监督，可以大量部署，自主武器将不可避免地变为大规模杀伤性武器，比核武器更麻烦。

由于制造核武器有很高的技术和资源门槛，因此并没有大规模扩散。然而自动武器不需要那么多的资源，甚至不需要花时间和金钱组建、训练军队。只需要一个程序员，就能轻易控制数百种武器。

2018年，抗议者在柏林勃兰登堡门前呼吁禁止使用致命自主武器。

因此，反对者认为，如果这样的武器被大批量生产，它们会变得廉价且充足，从而成为“完美的恐怖活动武器”，用来肆意对付手无寸铁的平民，甚至导致种族灭绝。在这个问题上，如今的人类正站在一个关键的十字路口。如果国际社会现在就团结起来行动，或许结束这一“极端黑暗时代”的转变还来得及。

近期，国际社会也已逐渐采取了一些行动，以推动禁止自主武器系统的使用。此前，国际红十字会发表了一项声明，呼吁“禁止设计或用于对人类使用武力的自主武器系统”。但至今国际社会仍然没有就致命性自主武器系统问题达成统一认识，甚至还没有统一的定义。

自2014年以来，专家们一直聚集在日内瓦，在以国际人道主义法和军控为目的的《特定常规武器公约》（CCW）框架下讨论致命自主武器系统带来的挑战。自2017年以来，一个正式的政府专家小组（GGE）就相关法律问展开了讨论。

今年8月，来自约50个国家的代表在联合国日内瓦总部召开会议，就致命自主武器系统或杀人机器人的可能条约举行了正式外交会议。

12月，联合国将在日内瓦举行的《常规武器公约》审查大会，以决定政府专家小组（GGE）是否延期。有报道称，这将是人类最后的“窗口期”。

红星新闻记者 徐缓

编辑 张寻
----

[https://kandianshare.html5.qq.com/v2/news/7515426296710388034?cardmode=1&docId=7515426296710388034&from_app=qb&sGuid=ba43247e00ef7e787920b11a13b788cb&sQueryId=1631808024282&sUserId=&sUserType=-1&sh_sid=5__24262a92236b974a__ba43247e00ef7e787920b11a13b788cb&target_app=kb 以色列再推“杀人机器” 可全自主运行 研究人员：武器自主瞄准人类的“红线”已被越过]