上周，俄罗斯首都莫斯科举办的一场国际象棋公开赛中，一个国际象棋机器人折断了一名7岁男孩的手指。
俄罗斯国家通讯社塔斯社（TASS）报道称，男孩因犯规被机械臂抓住，似乎是该男孩抢着下一步棋而触发机器人的行动。俄罗斯Baza Telegram频道发布的影片显示，男孩的手指被机械臂抓住数秒，之后机械臂没有做出其它的扭转动作，1名女子及3名男子马上冲出把男童的手指松开。
莫斯科国际象棋联合会主席谢尔盖·拉扎列夫（Sergey Lazarev）7月25日告诉塔斯社，“这个机器人已经在很多地方使用了很长时间，但机器人运营商显然忽略了一些缺陷。比赛中孩子在棋盘上做了一个动作，他本来应该留给机器人足够的回应时间，但男孩过于匆忙，于是机器人抓住了他的手指。”
拉扎列夫说，“孩子手指打上石膏后，第二天就又上场了。”
有媒体对此解读为机器人AI觉醒，制裁犯规行为。不过目前看来，这纯属误读。男孩只是因为在机器人操作回合将手指放在了机器人要下的棋子位置导致了意外伤害。另外，这也意味着该机器人的视觉模块未加入探测人手并安全终止的功能。
拉扎列夫称，此前国际象棋联合会曾多次租用该机器人，均未发生事故，国际象棋联合会本身与该机器人的编程或操作“无关”。
但他也表示，机器人操作人员必须考虑加强保护措施，以免这种情况再次发生。
历史上的机器人伤人事件
虽然此次意外中，被机器人伤害的男孩并没有生命危险，但是仍然引发了人们对于机器人安全性的担忧。
事实上，机器人缺乏自己的思维，只是按照程序做事。大多数时候，当人类挡道时，问题就出现了，机器人就像对待任何它正在处理的材料一样对待他们。这就是为什么大多数与机器人有关的事故和死亡发生在工厂，在那里，机器人接近人类工作。相遇通常不会给人类带来好结果，因为瘦肉显然不是钢铁的对手。
有媒体梳理了人类历史上一些重大的机器人伤人事件，从中可以发现，缺乏必要的安全监管和防护是悲剧发生的重要原因。
其中，美国人罗伯特·威廉姆斯（Robert Williams）是人类历史上第一个被机器人杀害的人。事故发生在1979年1月25日，美国密歇根州平岩市的福特汽车工厂。威廉姆斯爬上架子取石膏时，被机器人的巨大手臂击中身亡。具有讽刺意味的是，机器人本应负责取回石膏，但它却不断给出关于架子上剩余石膏数量的错误信息，迫使威廉姆斯爬了上去。陪审团认定，威廉姆斯的死亡是由松懈的安全措施造成，其中一项措施应该是机器人在人类靠近时发出警告声。威廉姆斯的家人获得了1000万美元的赔偿。
2015年，德国包纳塔尔的大众汽车（Volkswagen）工厂也发生了一起机器人伤人悲剧，一名未透露姓名的男子被机器人压死。这名男子当时是安装机器人团队的一员，机器人突然抓住了他，把他按在金属板上，男子受了重伤，因伤势过重而死亡。大众汽车在一份声明中表示，这起事故由人为失误造成。
2016年6月，20岁的美国人瑞金娜·埃尔西（Regina Elsea）在婚礼前两周被机器人撞死。事故发生在位于阿拉巴马州的韩国独资工厂阿金美国公司（Ajin USA），该工厂为现代汽车生产零部件。那天，埃尔西和同事试图修理有故障的机器人，机器人突然自动重启，把埃尔西推到另一台机器上。埃尔西严重受伤，后抢救无效去世。据调查结果显示，阿金美国公司为了实现利润最大化，多次违反安全规定。事实上，就在事故发生两周前，美国劳工部还猛烈抨击了该公司，并就27项安全违规行为罚款270万美元。
2016年5月7日，美国人约书亚·布朗（Joshua Brow）成为第一个死于自动驾驶汽车事故的人。当时他驾驶着特斯拉Model S穿过佛罗里达州的威利斯顿，撞上了一辆牵引车。车顶被掀翻后，特斯拉冲出了马路，撞穿了两道栅栏和一根杆子。特斯拉试图为自己在事故中的过失开脱，公司在一份报告中指出，这是Model S 1.3亿英里内的首次事故，低于9400万英里的行业平均水平。该公司还补充说，其汽车的自动驾驶系统并不完美，要求司机把手放在车轮上至少37分钟，而布朗的手只在轮子上停留了25秒。美国国家运输安全委员会（NTSB）的调查显示，事故发生时，布朗和自动驾驶仪都没有刹车。直到车辆偏离道路，撞到树上，安全气囊才打开。
机器人的安全性如何保证
随着工业生产自动化程度的提高，机器人在工业、交通等领域的广泛应用仍然是不可阻挡的趋势。在很多时候，机器人能够替代人类完成危险、肮脏的工作，提高生产率水平，解决劳动力短缺问题，并减少人类因疲劳而出错的可能性。那么，人类又该如何保护自己的血肉之躯不受钢铁伤害？
据了解，目前，国际标准化组织（ISO）发布了10个工业机器人标准，起草了两个个人护理机器人标准。美国国家标准协会（American National Standard）和机器人工业协会（Robotics Industries Association）联合制定了详细的工业机器人安全规定，最近又进行了更新，将ISO的指导方针纳入。
在自动驾驶方面，美国政府也已经采取了积极的措施。目前美国国家公路交通安全管理局（NHTSA）正在制定一套管理自动驾驶汽车使用的规则。这些规则包括获得自动驾驶汽车牌照的特殊培训，以及要求测试自动驾驶车辆的人报告所有事故。
一些机器人公司也在努力改进机器人技术，提高机器人的安全性。例如Cobotect公司为机器人设计了安全气囊，从而保护人们免受尖锐部件的可能伤害。还有一些企业正在研究机器人传感器，如果机器人设备离人类太近，就会停止工作。
美国安全咨询公司IOActive的研究人员则表示，安全审计、安全软件开发生命周期（SSDLC）、加密和安全默认配置是机器人制造商必须采取的措施。
此前，IOActive对全球市面上在售的10款智能机器人进行了安全测试，从这些机器人身上发现了近50个安全漏洞。漏洞使得攻击者能够获得机器人的完全控制权限，通过机器人的麦克风和摄像头进行间谍活动、窃取用户个人数据，甚至造成直接的人身伤害。
不过，比起机器人本身的漏洞和安全缺陷，防范利用机器人实施邪恶目的的不法之徒或许更加困难。美国布朗大学机器人学院的一篇文章指出，机器人的另一个不利因素是黑客攻击。人们不仅可以入侵计算机，还可以入侵处于网络连接中的任何机器——包括具有上述特征的汽车。为了说明这种可能性，计算机科学家查理·米勒（Charlie Miller）和克里斯·瓦拉锡（Chris Valasek）入侵了一辆福特翼虎（Ford Escape），使得在司机已经踩刹车的情况下，车祸也仍然发生。机器人黑客同样也有可能造成物理伤害。
文章称，目前尚缺乏有足够效力的法律对这样的行为作出规范和惩罚。“当我们归咎一项犯罪的凶手时，我们通常把它归咎于一个恶意或粗心大意的人。但这些措辞并不真正适用于机器人，因为机器人是根据编程来行动的，无论是否有意。让我们的法律适应机器人，可能需要我们思考谁是机器人的代理人。”文章说。
相关报道
人机互动如何防范机器人的“无意识伤害”（北京青年报）
张田勘
据俄罗斯通讯社塔斯社报道，在上周的莫斯科国际象棋公开赛上，一个国际象棋机器人折断了一名7岁男孩的手指。事发现场的视频显示，机器人在拿走了男孩的一个棋子后，突然扑了上来，似乎是对男孩针对自己上一步落子动作的快速反应“感到不安”。
这则消息再度引发人们对机器人的担忧和恐惧。从目前已知的情况来看，问题并非是因为机器人有意识。事实上，机器人只是在按照人给它设计的程序展开行动，它没有意识，也不会有喜怒哀乐，当然不会“感到不安”或者恼羞成怒而发动对克里斯托弗的攻击，夹断了他的手指。
按照程序和公平竞赛的原则，无论是男孩还是机器人，双方都要在对方下完一步棋后，也就是棋子落地（盘）后，才能做下一步动作。这也意味着，当克里斯托弗没有等机器人下完棋子就快速反击下了自己的下一步棋时，机器人还处在自己的正常行为程序中，自然会按照程序下完这一步棋，所以它才会抓住男孩的手不放松，导致男孩的手指被夹断。
这也正说明了机器人做任何动作都是处于无意识状态中，会严格按照设计好的程序一条道走到黑。而这也再次指出了人机交互时的安全保护问题。人比机器人灵活得多，即便不是孩子，成年人在工作和生活中会做出一些不守规则或不符程序的行为。这类行为在球场中有的解释为合理冲撞，或者解释为战术犯规，如足球场上有意阻挡对方的迅速反攻，甲方的防守队员对乙方持球进攻的队员拉拽或脚蹬放倒。此时，防守队员当然会受到处罚，要么黄牌，严重者则是红牌被逐下场。
这也意味着，在人机互动的过程中，人处在至高无上的受保护的地位，相关人员需要据此来规范人机互动的准则。也就是说，无论发生什么情况，无论现实环境如何，以及现实情况发生了什么变化，机器人都不得伤害人，哪怕是人违背了规则，机器人也不得伤害人。
在人际互动中，机器人做出伤害人的行为分为主动和被动两种。在克里斯托弗与下棋机器人的对垒中，机器人伤害克里斯托弗就属于被动伤害，因为机器人只是根据程序固执地要完成自己的下棋动作。这也意味着，在为机器人设置程序时，需要加上保护人的优先原则。无论人做了什么动作，只要人与机器人发生矛盾，产生接触、碰撞和冲撞，此时应规定机器人必须停止动作，避免伤害到人。在人指挥机器人的行动中，更需要执行这个优先程序。
对此，可以采用电气、机械两方面措施来保护人，电气保护在前，机械保护在后。电气保护可以利用光栅、红外热感等技术，只要机器人的机械臂移动范围内检测到有异常遮挡，如男孩克里斯托弗的手指去抓棋走棋时，无论是否违规，都会屏蔽机械臂的动作指令，让机械臂停止动作，以免伤害人的手。在电气保护失灵的时候，还应当有机械力矩保护。如力矩开关设定值应为刚好能够夹起棋子不掉落的力量。当偶发的情况下机械手夹住了人类选手的手指，机械夹合回路也会立刻停止工作，并且可以连锁反向操作。
现在电梯的自动开门关门和汽车玻璃的自动升窗都采用了这样的保护。汽车玻璃如果夹住人后，玻璃上升的阻力变大，超过了力矩开关的牛顿定值，会连锁触发升窗的反向操作而降窗，避免伤害人。无论是未来的人机对弈，还是更广范围内的人机互动，都应当在机器人的程序设计中，把保证人的安全放在第一位。
责任编辑：张玉
