“伤人事件”以讹传讹，机器人安全标准亟待规范

不过这一“中国首个机器人伤人事件”很快被认定为严重失实。高交会官方微博辟谣称，事件因为该展商工作人员操作不当，误将“前进键”当成“后退键”，导致用于辅助展示投影技术的一台机器人撞向展台玻璃，玻璃倒地摔碎并划伤一名现场观众。也就是说，机器人“小胖”并非自主行动造成破坏，而是人为事故。

尽管如此，将人工操作失误误解为“机器人伤人”，反映出公众对智能机器人行业飞速发展带来的不确定性的担忧。“小胖”伤人的谣传背后，人们普遍关心的问题是：机器人真的会伤人吗？

刚刚进入感知智能阶段

早在70年前，著名科幻作家阿西莫夫就提出著名的“机器人三定律”：1、机器人不得伤害人类个体，或目睹人类个体将遭受危险而袖手不管；2、机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；3、机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。后来还加入了“第零定律”：机器人不得伤害人类整体，不得因不作为使人类整体受到伤害。虽然这个概念只是个文学手法，还是有不少人认为它们是现成的方案，能保护人类免于失控的机器危机。

影视作品里，我们看到机器人正在不断“加戏”：上世纪80年代的美剧《机器娃娃》中，有着呆萌可爱小姑娘外形的机器人薇姬给人们带来了无数欢乐。但在施瓦辛格主演的《终结者》系列影片中，机器人成为和人类势不两立的终极敌人。由阿西莫夫的同名小说改编的科幻电影《我，机器人》中，机器人主角已经开始为是否遵守“机器人三定律”苦恼纠结。今年开播的HBO重口味神剧《西部世界》中，机器人和真实人类几乎无法区分，有了“梦境”和“回忆”，而且开始有了自我意识的觉醒，开始与它们的制造者斗智斗勇。而在英剧《真实的人类》中，人与机器人的界限变得愈发模糊，彼此难以区分。

在天马行空的科幻想象中，“机器人三定律”似乎已经远远不够用了。但问题在于，这距离现实有多远？

就机器人的发展阶段来开，科学界普遍将人工智能分为三个阶段：计算智能、感知智能和认知智能。

如今人工智能研究已经从计算智能迈进到感知智能阶段。实现机器人在制造领域或者外部环境的适应性是当下要重点突破的领域。而第三阶段，机器人智能认知的发展，仍是一道世纪难题。想要创造出科幻电影中的机器人还需要实现高度自我学习能力、推理能力和联想能力等，要求机器人不仅能感知，还具备高级的认知智能，可以沟通、表达、情感宣泄等。而即便是因战胜韩国棋手李世石而声名大噪的谷歌人工智能程序“阿尔法围棋”，它虽然在计算速度上碾压人类，但在感觉、情感等方面，依然无法和人类相媲美。

以讹传讹的“机器人伤人事件”

换言之，真实世界的机器人和与理想的人工智能状态相差甚远，还达不到“自主”行动的能力，更谈不上有伤人的“意愿”。而所发生的“机器人伤人/杀人事件”大都是人为原因。

例如2015年7月，大众汽车德国工厂一台工业机器人导致一名技师丧生的事件，在社交媒体上掀起了一场风暴。但最终调查发现，这起“机器人杀人事件”原因是安装机器人和机器臂的专业人士，在工作期间违反了安全规定。

人工智能和自动化专家表示，这起事件应被理解为一起罕见的工业事故，而不是关于人类未来会面临哪些威胁的一次警告。

英格兰布里斯托机器人实验室的艾伦·温菲尔德教授认为：“人们对机器人的期望和恐惧都过了头。他们被科幻电影和媒体报道弄得过于敏感。”

的确，如果我们在网上搜索“机器人伤人事件盘点”，会看到媒体罗列出的一长串清单。其中的大多数都是自上世纪70年代起工业机器人批量投入使用后，在流水线上因故障引发的伤人事件。其中也夹杂着不少无法证实，甚至逻辑荒谬的以讹传讹。

例如最著名的“前苏联国际冠军被机器人电死”事件。早在上世纪90年代就被国内的报纸杂志广为转载：“那是1989年世界犯罪史里记载的一件真实案件。前苏联著名国际象棋冠军尼古拉·古德科夫于莫斯科挑战一台巨型电脑，比赛在一副漂亮的金属棋盘上进行。”

报道中甚至还有特别画面感的细节描写：“古德柯夫连胜3局，他春风得意，频频挥手向观众致意。电脑的指示灯不停闪动，似乎十分恼怒。悲剧突然发生了！恼羞成怒的机器人向金属棋盘释放了高强度电流，恰巧古德柯夫的手正怡然自得地放在棋盘上，在众目睽睽之下，一代国际象棋大师死于非命。”

直到今年谷歌“阿尔法围棋”对战韩国棋手李世石，还不断有媒体在转载这个骇人听闻的电脑杀人事件。却鲜有媒体去核实其真实性。事实上，即便是现今最顶级围棋机器人，也不可能聪明到能“恼羞成怒”，放电杀人的程度。而那个不幸的“一代国际象棋大师”尼古拉·古德科也是“查无此人”。

如果追根溯源，会发现这个谣言最早出自1989年一份靠编纂奇闻逸事的美国超市小报《每周世界新闻》。稍有科普常识或了解围棋的人都能轻易看出故事的破绽，为何却能长达20多年反复被媒体当做真事转载？除了新闻严谨的缺失，背后深层次的原因或许还因为，人们愿意相信机器人真的能杀人。

家庭机器人智能化尚不足

相比起因为杜撰的“机器人伤人”谣言而恐惧，或为超前的“机器人三定律”而困惑，我们最迫切需要的讨论是明确现实中真实机器人的安全隐患。

从广义范围上。所有类似人类特质的机械装置都被称为机器人。根据其用途，机器人通常被分为工业机器人、服务机器人和特种机器人。工业机器人包括焊接、喷涂、码垛、搬运、装配等工业生产中使用的机器人，目前多为机械手臂。服务机器人包括家庭作业、教育娱乐、残障辅助、住宅监控机器人等，此次发生故事的“小胖”机器人就属于此类。特种机器人则包括水下、排爆、救灾机器人等。

在工业机器人占领了工业流水线之后，家庭机器人的时代似乎正在到来。如果说童年的我们对生活中机器人的印象还停留在装电池会发光的塑料玩具，那么如今真正意义上的服务性机器人已经开始走进日常生活。各种品牌的机器人扫地机在网上热卖，具备更复杂功能的家庭陪护机器人也正在从概念变成现实。比尔·盖茨对机器人市场的前景如此预测：“机器人即将重复个人电脑崛起的道路，未来家家都有机器人。这场革命必将与个人电脑一样，彻底改变这个时代的生活方式。”

就现有市场上能实现人机互动的家用机器人而言，由于交互技术非常不成熟，导致其功能较为生硬或是死板。我国的服务机器人尚处于起步阶段，类似“玩具的智能化”，如娱乐对话机器人、扫地机器人，都是进行一定范围的单一作业。以儿童陪伴机器人为例，目前的语音技术方案并不能在特定的对话场景中深入交谈。而且机器人的智能化程度不足，尚不具备深度自学能力，从而导致了机器人无法通过自我学习与人进行自然交流。

机器人安全标准亟待规范

此次“小胖事件”，尽管并非机器人自主行为，却充分暴露了服务机器人行业标准缺失的问题。我国机器人行业标准目前处于探索状态，没有可比性和参照性，亟待规范。

业内人士指出：服务机器人的安全标准化工作刚刚开始。原有的工业机器人认证标准对服务机器人是不够的，因为工作环境差别很大，需要更多检测移动性、交互能力、对不同环境的适应性等。在国际范围，标准的制定还在探索阶段。如英特尔也在联合一些专家设计实现一套对移动机器人的安全监测机制，希望通过虚拟环境与真实环境结合的方式进行测试，改变目前机器人领域有管理的想法、无检测的办法、无实用的安全方案的现状。

有专家指出，未来我国需加快制定服务机器人的生产标准与安全标准。目前中国虽然第三方检测机构已经建立，但机器人标准、检测认证等体系、认证手段和技术支撑等都需要进一步完善。尤其是在服务机器人的检测上，现有的标准还比较宽泛。

中国已先后建立了国家机器人检测与评定中心、国家机器人标准化总体组和机器人检测认证联盟。在11月2日，国家发改委、国家质检总局、工信部、国家认监委向社会发布“中国机器人认证（CR）”标志，同时颁发了首批中国机器人产品认证证书，这标志着我国正式建立并开始实施机器人检测认证制度。今年9月，工信部就《工业机器人行业规范条件（征求意见稿）》公开征集意见。