亲爱的总理:我们希望你们加入禁止杀手机器人的号召

作者:闾枘

<p>来自澳大利亚和加拿大的机器人和人工智能(AI)的主要研究人员今天发表了公开信,呼吁各自的总理采取反对武器化的立场</p><p>这些信件要求澳大利亚和加拿大成为下一个要求禁止致命的国家即将召开的联合国(UN)裁军会议上的自主武器,将于本月晚些时候在日内瓦举行的奇特命名的某些常规武器公约会议迄今已有19个国家呼吁对自治进行先发制人的禁令武器:阿尔及利亚,阿根廷,玻利维亚,智利,哥斯达黎加,古巴,厄瓜多尔,埃及,加纳,危地马拉,罗马教廷,墨西哥,尼加拉瓜,巴基斯坦,巴拿马,秘鲁,巴勒斯坦国,委内瑞拉和津巴布韦阅读更多:没问题太大#1:人工智能和杀手机器人致命的自主武器经常被描述为“杀手机器人”这在大多数人心目中描绘了一幅欺骗性的画面我们不是在谈论一个mov即时风格的终结者,但相当简单的技术,可能只有几年的时间</p><p>想想一个在伊拉克天空上空飞行的捕食者无人机,但用计算机取代人类飞行员现在,计算机可以做出最后的生死决定发射它的地狱火导弹我最担心的不是智能AI而是愚蠢的人工智能我们将赋予机器做出这样的生死决定的权利,但是当前的技术无法正确地做出这样的决定从长远来看,自主武器将变得更有能力然而我的关注转向了这些武器将如何破坏地缘政治秩序的稳定并最终成为另一种大规模杀伤性武器澳大利亚的信件与加拿大数百名AI专家签署的同时发布,其中包括两名创始人深度学习,人工智能开拓者Geoffrey Hinton和Yoshua Bengio加拿大信敦促总理贾斯汀特鲁多支持这样的禁令为了充分利益披露,我组织了澳大利亚的信件</p><p>它由十几位院长和校长签署,以及数十名人工智能和机器人教授在澳大利亚共有122名从事人工智能和机器人技术工作的教员签署了这封信</p><p>缺乏有意义的人类控制的致命自主武器坐在明确的道德界线的错误一边它补充说:为此,我们要求澳大利亚宣布支持在即将举行的联合国CCW澳大利亚会议上禁止致命自主武器系统的呼吁致力于与其他国家合作,缔结一项实现这一目标的新国际协议通过这种方式,我们的政府可以恢复其在世界舞台上的道德领导地位,正如之前在其他领域所表明的那样,如不扩散核武器与澳大利亚近期选举联合国人权理事会,致命的自主武器问题对于澳大利亚解决人工智能问题更为迫切过去几年,关于这个问题的botics社区发出了明确而一致的信息2015年,来自世界各地的数千名人工智能和机器人研究人员在主要人工智能会议开始时签署了一封公开信,呼吁禁止最近今年8月,100多位人工智能和机器人公司的创始人发出警告,打开“潘多拉盒子”并要求联合国采取紧急行动,联合国正在倾听并采取行动,尽管所有事情都是外交的, 2016年12月,经过三年的非正式会谈,联合国决定在一个政府专家小组内开始正式讨论顾名思义,这是由成员国选出的一批技术,法律和政治专家</p><p>有关自主武器的建议可能有助于但不会谈判禁止使用的条约本小组将于下周一首次在日内瓦举行会议诸如自治武器这样的话题总是会有“有意义的人为控制”吗</p><p>这在实践中意味着什么</p><p>国际非政府机构人权观察邀请我参加会议,我将谈论不采取行动禁止自主武器的危险如果没有禁令,将会有军备竞赛来发展越来越有能力的自主武器 阅读更多:为什么我们签署支持彻底禁止核武器的科学家的公开信这正确地被描述为战争的第三次革命第一次革命是火药的发明第二次是发明核弹这第三次革命将是我们可以杀死的速度和效率的另一个步骤改变因为这些将是大规模杀伤性武器一名程序员将能够控制整个军队其他所有大规模杀伤性武器都被禁止或正在被禁止:化学品武器和生物武器被禁止,核武器条约最近达到成为法律所需的50个签名我们必须将自主武器添加到道德上不可接受的武器清单我们无法阻止人工智能技术的开发它将用于许多像自动驾驶汽车这样的和平目的但我们可以在道德上使用它来杀人,因为我们决定用化学和生物学l武器我希望这将使世界变得更安全,....

上一篇 : 艾伦阿舍尔
下一篇 : 特雷弗默里