人工智能一旦脱离束缚，就会以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。

　　——霍金

　　然而，这种糟糕的情况似乎正逐渐向我们走来。

　　近日，在日内瓦举办的联合国特定常规武器公约（CCW）会议上，播放了一段可怕的视频：视频中，一群神似《黑镜 III》中机器杀人蜂的小型机器人，通过人脸定位瞬间杀死了正在上课的一众学生，场面血腥。

　　先来看看视频里的几个可怕画面：

　　一个体型类似蜜蜂的小型机器人飞入会场并轻易躲过演讲人抓捕，其拥有 anti-sniper 技术，完全基于 AI。

　　这个小机器人有着非常可怕的黑科技：广角摄像头、传感器、面部识别，且在其中，还有 3 克炸药。

　　来看看它的攻击效果，一击而中，极端致命：

　　随后，有媒体便称，这款武器极其像《三体》里的“水滴”，其状如水滴，由被相互作用力紧密锁死的质子和中子构成，密度巨大无坚不摧，“仅一个水滴就能接连摧毁人类的一千多艘飞船，打击方式也是直接、精确穿透关键部位，如这段视频中所展现。”

　　争议不断，杀手机器人命运归何处？

　　与人类的情感反应不同，人工智能技术能够用于制造不需要人类监管就能自动运行的武器，也称为“冷血杀手”。它们能够在一个区域内徘徊，且不需要获得军事人员的许可就能对来犯敌人做出生或者死的决定。

　　换句话说，当你因无知犯下弥天大错，你愿意将生命轻易交给冷冰冰的“杀手机器人”，而不求一点可以辩解的机会吗？这无疑超越了人类的道德底线。然而，你或许更想象不到的是，军方竟然成为当前 AI 研究的主要赞助者之一。

　　目前来说，尽管人工智能可用于研发排雷机器人或运输供给的无人机，但在军方手中，由人工智能技术嵌入的全自动化攻击性武器，很有可能会演变成大规模杀伤性武器。而武器制造商已经为军方打造了具有高度自主程度的武器系统，如机器人、自动驾驶坦克以及追踪并打击目标的无人机等，这些系统需要在提前设定并需要在人类监管的情况下运作。

　　其实，早在 8 月，就有许多世界领先的机器人和人工智能领域的公司创始人、科学家（包括OpenAI、特斯拉、SpaceX 创始人 Elon Musck，Deepmind 联合创始人 Mustafa Suleyman 等）呼吁联合国对杀手机器人下达封杀令，对自动化武器展开严格监督，以叫停打造自动化武器的军事竞赛活动。研究人员在公开信中描述了机器人武器的风险，并表示，这样的军事竞赛有可能继“火药”、“核弹”之后引发第三次战争革命。

　　但同样也有狡辩者声称，如果将致命性自主武器应用于战争会起到正面作用。如，降低己方士兵危险，降低战争带来的人员伤亡代价，并且这种武器弥补了人类在速度、准确性、稳定性方面的弱点，“可以抵达人类不可及之处，完成搜救和保护任务。”

　　会议主席印度裁军大使阿曼迪普·吉尔（Amandeep Gill）提到：“机器人并没有占领世界，人类仍在掌控，我们必须小心，不要让这个问题变得情绪化或戏剧化。”

　　与核武器相比，人工智能武器具备制造成本低廉而且制造简单的特点，这意味着它们很容易在武器黑市的市场流通。

　　伯克利大学教授、资深 AI 研究者 Stuart Russell 在视频的最后提醒人们，想象一下，这些致命的自动武器一旦落入恐怖分子之手，可能造成怎样的后果。