马斯克和AI专家呼吁联合国禁止将人工智能作为武器

据《洛杉矶时报》报道，特斯拉和SpaceX的CEO马斯克（Elon Musk）已经连同数十名人工智能公司的CEO，向联合国签署了一封公开信，呼吁在这项技术失控之前禁止使用AI（人工智能）作为武器。

这封信于周一公布——同一天，联合国致命性自主武器系统专家小组按原计划将讨论如何保护平民免遭滥用的自动化武器的伤害。然而，这次会议已经推迟到了11月份。

这封信也得到了Cafe X Technologies（生产机器人咖啡师）和PlusOne Robotics（其机器人能够自动从事体力劳动）的签署，公开信指出：“致命的自主武器威胁将成为第三次战争革命。一旦这个潘多拉魔盒被打开，将会很难再关闭。因此，我们恳请缔约方找到一种方式，能够让我们全部人免受这些危险的伤害。”

这封信与另外一份公开信的呼吁相吻合，两年前马斯克与3000多名AI和机器人研究人员，以及与物理学家霍金（Stephen Hawking）和苹果联合创始人沃兹尼亚克（Steve Wozniak）发布过一封公开信。在2015年的信中，签署人警告人工智能武器的危险性，它可用于“暗杀、破坏国家稳定、征服人口和选择性地伤害一个特定的族群”。

许多国家已经对无人机战役很熟悉，它们部署了无人驾驶飞机来代替真实的士兵。降低成本以及保护军事人员生命的好处，也促使这项技术日益普及。无人驾驶飞机未来的能力可能包括自主起飞和着陆，而水下无人机最终能够在海上巡逻数周或数月以收集数据。

自动化武器将向前一步，完全消除人为的干预，并可能提高效率。但是，2015年的公开信指出，这会带来一系列新问题，它会“降低战争的门槛”，引发全球性的军备竞赛，这些致命的技术会被大量生产、部署、入侵和滥用。

例如，公开信指出，四旋翼无人机可能会被用来搜寻和消灭符合预定标准的人。

2015年的这封公开信表示：“人工智能技术已经发展到了一定程度，它能够在几年内开始部署（即便不合法也在技术上可行），这些系统的风险很高。这只会是一个时间问题，直到它们出现在黑市、恐怖分子、独裁者和军阀手中，用来更好地控制民众，或进行种族清洗。”

Teal Group分析总监芬尼根（Philip Finnegan）称，美国军方“没有兴趣”将人类决策者从人工智能中解脱出来，也无意允许机器人自主地对抗敌人。

他指出：“美国军方已经强调自己‘不感兴趣’。”

长期以来，马斯克一直对人工智能的扩散表示警惕，早在2014年，他就将人工智能与电影《终结者》里面的情景进行了比较，警告这个领域存在潜在的危险。马斯克也是OpenAI的赞助者之一，这是马斯克与泰尔（Peter Thiel）、霍夫曼（Reid Hoffman）等企业家共同创立的非营利组织，致力于研究和构建“安全的”人工智能技术。

今年早些时候，马斯克公布了其新创立公司Neuralink的详细信息，总部位于加州的Neuralink计划开发一种可以植入大脑并帮助某些脑损伤（如中风）病人恢复的设备。该设备能够将人的大脑与云网络连接，或者与计算机和其他拥有相同植入物的大脑相连接。

马斯克称，该设备的最终目标是打击人工智能的潜在危险应用。

马斯克在网站上表示：“未来（面对人工智能）我们可以选择被遗忘和变得毫无用处，也可以像宠物一样——你知道的，就像我们养的猫或其他东西一样，或者我们也可以最终想出一些方法与人工智能进行综合和融合。”

马斯克对于人工智能的观点与扎克伯格以及其他人工智能的研究人员相冲突。上个月，扎克伯格直呼马斯克的警告过于夸张，并将自己描述为“乐观派”。

马斯克也作出了回应，称扎克伯格对这个话题的理解是“有限的”。