伦理挑战不断出现 人工智能比核武器还危险？

尽管蒙特利尔科技初创企业并不多，但这个城市有众多的深度学习技术的研究者让它成为AI人才的温床。Bengio等一行人就希望加速AI创企和研究人员在蒙特利尔的创新和发展，有意将该城变成一个AI中心。

科技界释放出来的野心或许会让不少蒙特利尔市民感到兴奋，但人群中也有一些质疑的声音。有人对将平静小城改造成世界AI中心的计划表示反对，称AI可能比核武器更危险。

事实上，全球范围内只要涉及到人工智能，就难免一些伦理问题。有鉴于此，谷歌、Facebook、IBM、微软和亚马逊等硅谷巨头联合组建了一个新的AI合作组织（Partnership on Artificial Intelligence to Benefit People and Society）以推进研究和最佳实践，为快速发展但不断面临道德挑战的行业制定全球行业标准。

随着AI渐趋主流，相关的伦理挑战开始不断出现。SamDeBrule在《Is artificial intelligence beneficial or dangerous to humanity?》指出，技术是人类自身的延伸，技术对人群的影响可能同时好坏兼有，这取决于你从什么角度进行观察。

论技术作为人的延伸

自原始人发现和利用火以来，人类每个世纪都创造出新的工具和技术。然而每一个激进的创新都会同时带来利益和陷阱。新技术的运用给我们的集体道德带来不可逆的影响。我们所使用的工具在很大程度上也在塑造者我们的观点和行为。某种意义上，技术不仅是我们改造世界的工具，也是我们面对世界的窗口。

正如法国哲学家米歇尔·塞尔（Michel Serres）在《New technologies: A Cultural and Cognitive Revolution》中所阐述的那样，技术总是人体的延伸或增强。锥子是加强版的拳头，计算机是对大脑的增强，网络是对群体知识和记忆的增强。

而通过模仿人类大脑的深层神经网络，AI将取代计算机成为更称职的人脑之延伸。未来计算机网络将不再只是储存知识的仓库，AI让储存的知识更易理解和可行，为无缝沟通和世界的真正连接铺平道路。

是好是坏？

虽然这听起来像是了不起的科技胜利，但也可能让一些行业外人士感到恐惧。若我们摆脱硅谷科技至上的玫瑰色眼镜来观察的话，尽管过去几十年里世界为了对付恐怖主义花费了数十亿美元和发动了数次武装打击，但ISIS仍未被遏制。这让我们思考，或许我们并不是在按着我们期许的那样发展。于是从另一个角度想，AI所能带来的毁灭与它所能带来的助益一样大。

既然福祸并存，那么到底还要不要发展AI呢？如果我们回头看看技术的历史，人们对AI的态度可能变得既爱又恨。

技术简史

火给人类带来了熟食，促进人类大脑的进化。另一方面，火也成为拜占庭帝国用以毁灭敌人和开拓疆土的骇人武器。

轮子为人类带来前所未有的移动能力，人群的流动性和视野大大增加。然而几个世纪之后，大规模工业运输也造成了大气污染和温室气体排放过度，让地球气候遭了殃。

快进到今日，互联网和社交媒体使知识民主化，人们前所未有亲密无间地彼此联系，给我们每个人平等发声机会。另一方面，社交网络的兴盛也让个人隐私荡然无存，同时网络还成为激进主义者宣传的工具，“另类右派”和伊斯兰主义者都把网络作为自己的舆论宣传阵地。

贪婪、歧视、仇外心里、战争、恐怖主义和野蛮一直存在。这些现象产生自人心，是我们不完美的人性的一部分，独立于外在技术而存在。AI反对论者所忧虑的正是担心AI会放大人类的黑暗面，将人类的缺点转移到机器上。

进步战胜恐惧

无论哪一派站上分，对AI的争论只是理论层面的和徒劳的。你不能停止技术进步。技术是人类期许和前进的动力，是技术让人们期许一个完美世界存在的可能：没有病痛、利益分配均匀、清洁能源……我们不应该试图阻止技术进步，相反，而应该加速它发展。同时人类也需要从过往错误中汲取教训，避免错误重现。

每一次面临技术的进步，人类都有审查和完善已有道德标准和社会契约的必要。如今更是如此，我们不能盲目地前进。如果我们不能把人类利益置于个人、经济、政治和军事之上，那么人工智能真的有可能是一场灾难。但是，如果我们能够达到人类意识的新水平，AI也可以成为得力工具，帮助建造更好世界。人类可以专注于人类的优势（创造力、批判性思维、情商以及解决问题），而机器负责哪些繁重琐杂的工作。如此各得其所，为所有人带来不可限量的价值。

反对机器至上论

最后，我们不应认为机器会取代人类。正是在这个论点上，人类失去了自己的权威和道德责任感。相反，我们应该将机器视为人类自身的增强。如此人类才能进步和成长。

个人观点认为，保持现状比突入未来更危险。我们停止演化的那一天，就是我们开始衰退的哪一天。所以不要恐惧进步，同时也不要因自满而失去谨慎。二者中的任何一个都是面对未来的玩火行为，而未来已不允许人类再犯错。