人工智能与人类文明距离多远才算安全？

面对AI的兴起，我们该怎么做？

机器人做任何事都会比我们做得更好

据美国“国家公共无线电台”官方网站7月17日报道，特斯拉公司兼太空探索技术公司CEO，埃隆·马斯克，在美国全国州长协会会议的第三日，回答内华达州共和党领导人提问时，警告执政者“人工智能AI已经对人类文明构成了重大威胁，急需管理控制”。

与此相似的论断被统称为“人工智能威胁论”，显然，马斯克并非首次提出该论断的知名人士。二十世纪末，对无线技术和数码科技热爱到无法自拔的青年们必然熟悉一本名为《连线》的杂志，它坚持一个前无古人的信念：数字文化是一场革命！而《连线》之父，凯文·凯利就曾指出，“人工智能会是下一个20年中颠覆人类社会的技术，它的力量将堪比电与互联网。”

2014年“杰克船长”约翰尼·德普主演的科幻影片《超验骇客》上映之后，著名物理学家史蒂芬·霍金就为《独立》杂志撰文，称“人工智能或许不但是人类历史上的最大事件，而且还有可能是最后的事件”。今年4月末全球移动互联网大会上，霍金通过视频发表演讲，再次表示“人工智能的全方位发展，可能招致人类的灭亡”。此后，5月举办的乌镇围棋峰会上，“阿法狗”凭借深度学习技术以3比0战胜柯洁，某种程度上证明了AI存在着未知潜能。

而在7月的美国州长协会会议上，马斯克首先谈到了能源问题，介绍了电动汽车公司和太空旅行项目的进展。当有人问及“在未来，机器人是否会取代每个人的工作”时，马斯克一改玩笑语气，严肃地回答道，“是的，机器人做任何事都会比我们做得更好”。

AI需要小心谨慎地预先警戒

然而令人担忧的不仅是就业市场，马斯克指出，人工智能AI是人类文明存在的根本风险，但人们尚未理解这一事实。基于拥有的企业，他可以接触到世界顶尖的人工智能技术，而他所看到的一切都在警示，AI是“最可怕的问题”。

“人们应当真正关心AI的存在，因为在未知的黑暗处，AI对人类生活的影响比想象中更大，这将在未来的某一天打击人类。但是，直到人们亲眼看到机器人在大街上杀人，他们才会知道自己无法应对AI，因为这行为看上去太容易！”

对此，人类能做些什么呢？

马斯克在会议上称，“AI需要小心谨慎地预先警戒，以及政府主动的干预措施”，否则，当人类对AI监控“反应过度”时，一切已经太迟了。近两三年来，人类社会的安防意识已增强到前所未有的高度，大部分国家的公共场合都安装有摄像头，计算机系统能够将一切监控录像或图片上传到云端。由于数据庞大到难以想象，分类、检索和整合信息的工作只能交由人工智能AI完成。现如今，AI不仅可以在大数据的基础上完成寻人任务，甚至还能与不同类型的传感器合作，造就整座建筑的“神经系统”，让无生命的事物变得近似“能够呼吸”。

然而，如果认为AI带来的只有美好图景，那又大错特错。以摄像头为例，正是由于AI监控，许多不为人知的事件轻而易举就被展现在人们面前，无论是国际会议现场，还是案发事件现场，甚至出于不正当目的留下的犯罪痕迹都被毫无例外地暴露在世人面前。作为一种技术，AI并不具备人类心灵中的“道德感”，因此被无限制使用时，很容易扯下人类身上最后一块“遮羞布”。

也许彼时，我们就是另一个“自然”

会议中，马斯克显然并不试图让这番“人工智能威胁论”显得太过激进，也并没有像普通大众那样，抱怨AI监管“令人厌烦”，而是严肃地指出“让AI无拘无束发展的风险太高”。

与马克·扎克伯格所持的人工智能“和谐论”不同，多年以来，马斯克始终在持续拉响AI警钟。2014年，他将人工智能开发人员比作“自认为能控制所召唤恶魔”的人类。2015年，他签署了一份关于AI军备竞赛的预警信。为了防止AI被一家公司控制，他甚至投资了一个旨在促进AI开源的项目。

然而，硅谷的一些领袖并不赞成他的想法，包括谷歌联合创始人拉里·佩奇在内，都将AI描述为一种人类可借力的好工具。外媒评论指出，马斯克的言论顶多是一种营销战略，“他对品牌宣传的兴趣比拯救世界大得多”。部分参会政客仍在怀疑发展中的AI是否具备管理能力，但马斯克建议，美国政府第一步应“洞察”当前研究的实际情况，“一旦意识到了现状，人们就会明白恐惧的含义”。

抛开态度不一的言论，纵观现实，大自然耗费百亿年孕育出智慧生命，在辉煌显世了数千年后，模仿自然的手笔，人类只需短短数十年便能造出与自身不相上下的人工智能AI，堪称奇迹。也许，自诞生之日起，人类存在于世间的唯一筹码便是智慧。唯有用全部的智慧与机械交换，科学家理想中的AI才会成为现实。

倘若我们依然对控制权存有疑惑，想要获得文明的安全感，那不妨扪心自问：自然成功“控制”了人类吗？当然没有！因为在人类文明中，自然是背景、是环境、是赖以生存的物质资料的来源，是本质不同的存在。那么，在人工智能的问题上是否同理，人类对未来可能产生的“觉醒AI”能够“完全控制”吗？

也许彼时，AI眼中，我们就是另一个“自然”！