登录注册

one-long

QQ登录

只需一步,快速开始

扫一扫,访问微社区

搜索
查看: 479|回复: 0

金点子—美英等国研发杀人机器人 联合国讨论封杀

[复制链接]

1850

主题

1851

帖子

5578

积分

论坛元老

Rank: 8Rank: 8

积分
5578
发表于 2016-9-5 12:31:10 | 显示全部楼层 |阅读模式
金点子—美英等国研发杀人机器人 联合国讨论封杀

   

   
        
            2013 年 5 月 28 日
             | 没有评论
            
        
                        
来源:新京报


“由于机器人没有人类的感情,它们不会理解和辨别人类的情感,诸如复仇、惊慌、愤怒、困惑、偏见或者恐惧。由于没有足够的法律问责制度,加上机器人不应该拥有决定人类生死的权力,因此部署此类武器系统可能令人无法接受。”


——联合国人权理事会特别调查员克里斯多夫·海因斯


联合国人权理事会定于27日在瑞士日内瓦开会,联合国人权理事会特别调查员克里斯多夫·海因斯建议立即冻结“杀人机器人”的研发和应用,联合国成员国将就此议题成立专门委员会展开讨论。


“杀人机器人”不断升级


1944年,著名科幻大师阿西莫夫在机器人短篇集《我,机器人》中,首先提出了《机器人三大定律》,其中第一条就是:“机器人必须保护人类的整体利益不受伤害。”


然而在好莱坞电影中,这一定律从未实现,从《终结者》到《变形金刚》,各种高科技机器人相互厮杀甚至杀人的场面屡见不鲜。


联合国人权理事会特别调查员克里斯多夫·海因斯宣称,这种行为正在变成现实,各国在没有相对道德和法律约束的情况下,正在加快研制智能“杀人机器人”的步伐,这一切应被禁止。


海因斯表示,自己作这个报告是受前段时间美国无人机在打击“基地”恐怖分子时误伤了周围贫民的事件的启发。


海因斯在报告中指出,这种“杀人机器人”将从由人远程遥控,发展至由计算机软件和传感器装置控制,进而全自动执行识别敌人、判断敌情和杀死敌人等任务。然而,这一技术突破是非常令人担心的,因为这种机器人可能误伤已经丧失战斗力的伤员和准备投降的士兵。海因斯还表示,由于“杀人机器人”缺乏人类的情感,所以会对人类的生命造成潜在的伤害。


操纵者对军事打击感到麻木


国际机器人武装控制委员会主席、人工智能与机器人技术教授诺尔·夏基认为,无人机参战意味着人类迈出了颠覆现代战争的最后一步。他说,目前所有的无人机行动仍处于人类操控阶段,“现在最大的问题是,谁在制定目标,谁在下令开火。这些杀人行为是否是自动化的一部分。”


海因斯警告,杀人机器人可自行作出攻击目标决定,如果将它们补充到武器库,可能会“打开更大的潘多拉魔盒”。因此,海因斯希望由联合国出面,要求各国冻结“杀人机器人”的研发实验和实际应用。


虽然目前的武器系统背后都有人员在操控,但海因斯认为这种操作形式不可取。海因斯说:“战场上的局势瞬息万变,由于距离限制,很多情报并不会即刻反馈给后方的操控者,造成前方的武器系统判断失误。”


同时,海因斯认为,由于无人机驾驶员并不在现场,所以对军事打击更为“麻木”。


(韩旭阳)


■ 反应


无人机颠覆现代战争


根据海因斯的报告,目前美国、英国、以色列、韩国和日本都在积极研发各种类型的智能或半智能“杀人机器人”。


关于“杀人机器人”,因发起国际禁止地雷运动而于1997年获得诺贝尔和平奖的美国人乔迪·威廉姆斯认为,“关于科技会完全改变战争的讨论一直在进行,当有人说这是不流血的战争时,我很愤怒。”


夏基警告说,“机器人大战”给人们带来的远非科技进步的喜悦,而是忧虑。他认为,让机器人自己决定是否杀人难以保证它们不会滥杀无辜。真人士兵可以用常识判断眼前的女子是怀孕还是藏有炸弹,而机器人恐怕难以拥有这种思考能力。此外,“杀人机器人”虽有自主意识,但无法为自己的行为负责。


夏基认为如果恐怖分子利用“杀人机器人”取代自杀式袭击,后果将不堪设想,而这也许只是时间问题。(韩旭阳)


■ 观察


据周晨鸣介绍,美军目前正在试验一些自主意识的无人战车,但是以美国交通部的名义在做测试。“美国自2010年就开始测试这些无人战车,主要测试的是识别号牌、遇见红绿灯自动停车再启动等,”周晨鸣说,“美国曾在阿富汗战场中试用过,但最终只能根据设定好的路线完成简单的点对点运输。无人战车神经网络的自学习周期相当的漫长,但依然不能正常准确地识别红绿灯。基本的红绿灯都无法识别,在战场上更无法判断自己的动作。”


谈机器人大战为时尚早

知远防务研究院研究员周晨鸣表示,关于“杀人机器人”的讨论早在2005年就已经出现,但拥有人工智能的自主机器人一段时间内还不能用于实战。周晨鸣认为,目前讨论冻结研发“杀人机器人”只是伦理层面的考虑,现实技术尚且达不到自主机器人的程度。


周晨鸣表示,战场环境之复杂远非实验室模拟能比,所以自主机器人仍不能大规模在战场上布局。他说:“同样是可以用履带上楼的机器人,在实验室中可以安然无恙,但是实际战场上的地势复杂,还有各种爆炸,都会影响机器人的自主操作。目前在自主机器人研发上还有很多重大的技术难题,20年内不太可能实现。”


金点子              http://www.960123.com/
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则