有美国（United States）钢铁侠（Iron Man）之称的马斯克（Elon Musk）与DeepMind创始人等人签署了一项宣言，承诺不研制致命的人工智能武器系统。

签署者认为，绝不应该把人类的生命委托给机器。这一种武器的传播将危及每个国家和个人的安全和稳定。

在瑞典斯德哥尔摩举行的IJCAL 2018上，由MIT著名物理学家Max Tegmark发起，其任职主席的生命未来研究所（Future of Life Institute，FLI）起草，上述协议一经发出就应者如云。

2400全球AI科学家签署承诺：

包含企业领域的马斯克、DeepMind联合创始人哈萨比斯、穆斯塔法，Shane Legg；Skype创始人Jaan Tallinn；全球顶尖AI学者Yoshua Bengio、Stuart Russell、Jürgen Schmidhuber等2400全球AI科学家，都郑重签下了大名。

就国籍和企业归属而言，他们分属90个国家、160多家AI企业或机构。这是全球首个AI武器系统开发的民间反对组织，不出意外，这也将是影响力最大的一个。

这份协议全称《致命性自主武器宣言》（lethal autonomous weapons pledge），核心内容就是宣誓不参与致命性自主武器系统（LAWS）的开发、研制工作，而且LAWS的研发及使用应当被严格禁止。

宣言称：“人类个体生死的决定权，决不能交给机器。”这一方面是出于道德层面的考虑，“掌控他人生死”这件让人产生罪恶感的事，绝不能由没有感情的机器做出。

而且致命的AI武器，不受人类干涉、自主选择攻击目标，可归责性与难度都前所未有，它们将成为暴力活动中的强大工具，尤其是与监控、数据系统相结合时。

国际谴责并避免此军备竞赛：

宣言还强调：“致命性自主武器的特征不同于核武器、化学武器及生物武器，研发团队可以单方开启军备竞赛，而国际社会缺乏实行管制的技术手段。谴责并避免此军备竞赛，是维护全球安全的优先考虑事项。”

所以当天签署之协议，也是呼吁各国政府及首脑为了地球的未来，共同商议抵制LAWS的国际规范、法律。

“这些未参与LAWS的人，需要以更高标准要求自己：我们绝不参与或支持LAWS的发展、生产、贸易与使用。我们呼吁科技企业、组织及其领袖、决策者与其他民众，共同履行该承诺。”

有别于其他武器，致命性自主武器，能在无人控制的情况下，自主完成寻找目标、定位、击杀敌人这一整套工作，而AI系统和技术应用，是这些武器最强大的“驱动力”。

一旦将这些武器派上战场，它们就能够自主辨别敌人并给出致命一击，没有情感，没有更多判断，人类的生死权，在机器眼里就是二元的“敌人=死亡”。