AI专家呼吁联合国公开辩论“致命的自主武器系统”

AI专家呼吁联合国公开辩论“致命的自主武器系统”

前情提要

数十名企业高管以及人工智能和机器人领域的技术专家签署了一封公开信,呼吁联合国对“致命的自主武器系统”可能产生的潜在威胁进行公开审议。

这封信敦促联合国政府专家组“努力寻找方法来防止这些武器军备竞赛,保护平民的免受这类系统滥用的威胁,并避免这些技术带来的不稳定影响。”

联合国《针对特定常规武器公约》会议成立了专家组(GGE),由联合秘书,印度的Amandeep Singh Gill主持。重点关注致命的自主武器系统的联合国政府专家组(GGE)原定于今年8月21日召开第一次会议,现在已经推迟到11月份。

公开信的主要内容

这封公开信的内容摘要如下:

“致命的自主武器有可能成为战争领域的第三次革命。一旦发展起来,它们将造成前所未有的武装冲突,规模之大、速度之快超出人类的想象。这些武器可能被用于恐怖袭击,由独裁者和恐怖分子对准无辜的人群,与此同时这些武器的攻击方式也是不可取。留给我们行动的时间并不长,一旦潘多拉的盒子打开,就很难关上了。因此,我们恳请各缔约方找到保护我们所有人免受这些武器威胁的办法。”

这封信的出现,是由于目前世界各地的军队正在开发新的战争方法,越来越多地涉及由机器智能指导的自治系统,包括使用人工智能、机器学习和认知分析等技术手段。

关于AI的争议和军事化应用

美国国防部高级研究计划局(DARPA)战略技术办公室提出赢得未来冲突的“马赛克战”战略,并且早就已经付诸行动,这种被成为“马赛克”的作战能力,需要“通过对各种传感器、多域指控节点、有人与无人平台的快速、灵活有效集成,即动态、协调、高度自治的组合系统。”可以充分扩大对敌人的不对称优势。

人工智能公司Spark Cognition的首席执行官Amir Husain在谈及(hyperwar)的话题时,指出“AI和机器人推波助澜、助长了冲突”。Husain也注意到了提交给联合国的公开信已经被一些观察家解读为“Elon Musk的请愿书:禁止AI”(Elon Musk是SpaceX和Tesla公司的CEO,素有“硅谷钢铁侠”之称的美国亿万富翁)。但Husain认为这封信“既不是Musk的请愿书,也不是禁止AI的请愿书,同时也不是一个具体的解决方案”。需要指出的是,在公开信上的数十个签名中, Husain和Musk的名字都在其中。

Husain说:“澳大利亚新南威尔士大学的Toby Walsh教授组织大家写的公开信,它只呼吁就自主武器这个问题进行更多的辩论。我和其他许多人一样,是这封信的签字人,因为我相信这一问题的重要性和促进辩论的重要性。然而,正如我之前早就提到过的,强制执行一个禁令是行不通的。核扩散的历史为就是一个很好的例子,博弈论的囚徒困境提供了一个思考这个问题的理论框架。就现阶段存在的问题而言,我认为解决的方法是重视在开发安全方面的投资,解释并透明化人工智能技术。在历史的漫长岁月中,科学进步是不可避免的,对我来说,这并不可怕。相反,我乐观的认为,它将照亮黑暗的画布。

多年来,美国军方一直致力于所谓的“第三次抵消战略”,这是奥巴马政府重要的国防战略之一,但迄今为止,特朗普政府在其公开演讲中没有广泛采用。美国的第二次打击发生在20世纪70年代至80年代,涉及隐形飞机、精确制导武器和计算机指挥控制。

AI专家呼吁联合国公开辩论“致命的自主武器系统”

很少有官员公开谈论第三抵消战略涉及的具体技术类型,但军事分析家认为这将需要网络、电子和空间作战能力。许多专家认为自主性和人工智能是基本的组成部分。官方对其保密这并不奇怪,美国在20世纪70年代到1989年之前发展第二次国防战略的时候,也没有公开讨论过隐形能力的话题。

美国前国防部副部长Robert在2015年曾说过:第三次抵消战略将导致人类和机器紧密合作,而不是独立于人类的自主武器系统。人机合作的愿景也被称为“半人马战略”(Centaur Strategy)。2016年10月在战略与国际研究中心会议上重申了这一主题。

但是,考虑到技术创新和各个国家快速发展军事能力的惊人速度,即使在过去看来只是想象中的人机协作的过程中,也可能会发展出比最初设想的更多的机器自主性。

美国海军陆战队的约翰·艾伦将军(退役)上个月在美国海军研究所学报上发表过一篇文章,其中提到:

“新的战争形式的独特之处在于其无与伦比的速度,通过利用人工智能和机器认知,为自动化决策和行动的并行提供了可能。

…在军事方面,超级战争作为一种冲突类型将被重新定义,在“观察-定位-决定-行动”(observe-orient-decide-act,OODA)的循环中,人类的决策几乎可以完全缺席。这将导致一个OODA循环相关的时间可能会减少到接近瞬时响应。这些发展的意义是多方面的,改变了游戏规则。

AI专家呼吁联合国公开辩论“致命的自主武器系统”

“硅谷钢铁侠” Musk在公开信签名,并引发媒体的关注,这些都在意料之中。这位亿万富翁、科技企业家曾多次警告AI带来的“生存威胁”,称它是“人类在文明社会面临的最大风险。”不过谷歌联合创始人拉里·佩奇和脸谱网CEO马克·扎克伯格并不认同Musk的观点,他们认为需要乐观的看待AI为人类社会带来的改变。另外有一些评论家则认为,Musk的可怕警告是其营销策略的一部分。

尽管是人工智能的批评者,但Husain和其他一些技术人员则认为人工智能的发展是不可避免的,而且考虑尝试减慢或停止人工智能的研究和开发都是徒劳的。

Husain说过“超级战争是人工智能军事化的后果之一。它真实发生了,就在这里,只会随着时间变得更加重要。我们必须将这些被广阔的、广泛的部署的自治系统纳入到我们的规划和思想中,并深刻理解它们带来的影响。”

原创文章,作者:M0tto1n,如若转载,请注明出处:http://www.mottoin.com/sole/view/105150.html

发表评论

登录后才能评论

联系我们

021-62666911

在线咨询:点击这里给我发消息

邮件:root@mottoin.com

工作时间:周一至周五,9:30-18:30,节假日休息

QR code