English Version 繁體 教师登录 学生登录
 
 
概 况 师 资 新闻中心 招 生 人才培养 对外交流 学术研究 党团工作 图书馆 校友网 培训中心
您现在的位置:中国人民大学法学院 > 新闻中心 > 学术活动
 
第4期人大国际法沙龙成功举办
2018/1/2

    2017年12月27日晚7点,人大国际法沙龙第4期在中国人民大学明德法学楼725会议室如期举行。本次沙龙主题是“人工智能武器对国际法的影响”,由中国政法大学法学院冷新宇副教授主讲,中国人民大学法学院博士研究生谭观福担任主持人,朱文奇教授担任评议人。参加本次沙龙的除了中国人民大学的本、硕、博学生,还有来自中国社会科学院、中国社会科学院大学、清华大学、中国政法大学、外交学院、国际关系学院等兄弟院校的老师和同学,共计超过40人。


    冷新宇老师首先对人工智能武器(Autonomous Weapons System, AWS)的定义进行了“修正”。他指出,电影场景中的“机器人杀手”、“终结者”是人类超前想象的产物,现阶段的人工智能技术还不能达到完全的“自主”,所谓的人工智能武器表述为“应用人工智能技术的自主性武器”更为准确。现在所谈及的武器没有自主意识,但却具有一定的自主性(autonomous),它们能够在一定范围内做出决定。美国国防部2012年11月份颁布的3000.09号指令(DoD Directive 3000.09),它是关于人工智能武器开发、训练和实战的操作性规范,它使用了自主性一词,意指武器在做出决策方面具有一定自主性。但纯粹的不会造成物理损伤的武器网络攻击不包含在内。《常规武器武器公约》(CCW,1980)则使用“杀伤性自主性武器”(Lethal Autonomous Weapons System, LAWS)。2014年的CCW审议大会中,有64位专家提出要将LAWS纳入审议,之后两届审议会议都讨论了相关议题,2017年的CCW审议大会刚刚过去。


    第二,冷老师用“OODA循环”或“包以德循环”对AWS的工作原理做了解读。该循环共包括四个环节,即观察(observe)、信息评估和判断(orient)、做出攻击决定(decide)以及最后的行动(act)。对比传统武器和AWS可以发现,传统武器的使用过程中,人处于绝对的主导地位,每一个环节都需要人的介入;而AWS中,攻击的决定被预先授权(decision authority delegated to AI system),且此类授权具有一定的自由度,之后的每一个环节都不要人的介入,而由武器自身进行信息的采集、目标的选择并做出攻击的决定。


    现实来讲,AWS并不具备自身的智能,也暂时达不到这个程度;它缺乏人类的模糊思考能力(或者思维的灵活性),面对诸多变量,它的决定很可能造成灾难性的结果。对此,冷老师从方法论的角度,对人工智能武器国际法问题研究的路径作了区分。他指出,现有的研究(例如,CWC和红十字国际委员会)将AWS视为人的能力的延伸,它是作为工具(instrumentality)的客观存在,其本身并不具有独立的主体资格(personhood)。因此,现阶段AWS国际法研究主要涉及现有国际法规则的适用问题,而非突破现有框架“另立体系”。


    第三,冷老师分析了国际人道法对AWS的适用问题。《1949日内瓦公约第一附加议定书》第36条对“新武器”的规制做了原则性的规定。该条指出,对于新武器的发展、取得、应用及其附随的战争方式和形式,缔约国有义务去确认它的使用是否被该议定书或其他国际法规则所禁止。现实情况可能是,AWS使用面临规则的“灰区”,即无法判明是否存在违反国际人道法的情形。
    AWS对国际人道法领域的区别原则和比例性原则造成了挑战。有观点认为,AWS会避免人自身因素(如感情)对攻击行为的影响,增加武装部队对国际人道法规则的遵守能力。另一种观点则认为,AWS事先录入的信息是有限的,而武装冲突中的现实状况是复杂且多样的,如果区分战斗员和平民、实施打击时如果避免附带伤亡始终是存在的问题。
    对此,冷老师指出,国际人道法既是法律规则,也是伦理规则,而伦理或道德是人特有的。AWS所带来的根本 法律问题在于,能否将判断是否遵守法律规则的权力交于工具本身?换言之,AWS行为能否被视为人的行为,而其行为所导致的责任能够归于个人?问题的核心在于“可预测性”(predictability),即AWS设计者或使用者能够预测到AWS在程序之外所做出的违法行为。 

    第四,冷老师探讨了AWS对国际刑法所造成的挑战。在发生违法行为的情况下,须考查的内容是,该结果是否在作战人员故意的范围内:如果在预测的范围内,作战人员就具备间接故意(dolus eventualis)。不过,国际刑事司法实践(包括前南刑庭和国际刑事法院)不承认间接故意在战争罪中扮演的角色。那么,能否利用共同正犯或指挥官责任的概念将AWS违反行为归结于个人呢?这些理论适用的前提是个人(法律主体)在具体实施犯罪,而AWS行为并不能与刑法上犯罪行为相等同。不过,能否将指挥官责任视为不作为犯罪?现实情况是,国际刑事司法实践只是将其视为独立的责任模式,它仍必须以行为人实施犯罪为前提。另外,国家责任也有适用空间,但问题的核心也在可预测性。为了提升可预测性,美国国防部的指令要求,任何AWS的研发必须进行回归测试(Regression Test),以增加作战人员对AWS的掌握程度。

    接下来,冷老师和与会同学进行了讨论。主持人谭观福博士首先提出,在国际经贸协定当中,通常都会纳入非贸易关切,比如安全例外条款。如果相关国家使用AWS违反国际人道法,那么被攻击的国家能否在贸易领域对其进行制裁?冷老师回应说,现阶段有能力研发AWS的国家较少,国家都会将相关技术列为高度机密,因此,如果它们想要调整相关问题,它们会通过直接的方式来进行。中国人民大学硕士研究生李正提出,AWS偏离预先设计的程序,侵入一国领空,那么,其结果是,该行为直接不属于行为国的责任,还是说属于不可抗力排除责任的情形。冷老师回答说,这个问题更多的涉及武力使用合法性规则,国际法院的尼加拉瓜案对武力攻击的认定做了分析,至于不可抗力,关键在于证据问题。


    中国社会科学院国际法所博士后邓华提出,国际法院在1986年尼加拉瓜案也提到了“有效控制(effective control)”的标准,根据国际法委员会2001年二读通过的《国家责任条款草案》第8条,私人行为体的行为要归责于国家,则需要建立在国家对私人行为的指示、指挥或控制之上。至于控制的程度,国际法院在尼加拉瓜案确立了“有效控制”的标准,并在2007年《种族灭绝罪公约》适用案中再次确认了该标准。不过,国际刑事司法机构则支持“全面控制(overall control)”的标准。冷老师认为,前南刑庭在“塔迪奇案”中对“控制”的分析是放在国家责任的框架下进行的,对于非国家实体来说,确认国家责任不需要上升到给出明确指令的程度,只需要符合全面控制就可以了。国际法院在2007年《种族灭绝罪公约》适用案采用区分的方法,以全面控制判断武装冲突的性质,以有效控制判断国家责任。在AWS中,问题的关键在于《国家责任条款草案》第8条(由国家控制的行为)需要不需要适用。AWS的自主性对“控制”的认定形成了挑战,如果脱离国家预设的控制,如何确认归因是面临的问题。理论上讲,责任的真空是存在的,正因为此,美国才极力强调AWS的可预测性。

    中国政法大学学生王琦帆提出,在OODA循环中,如果在决定和行为两个环节之间介入人为因素,那么,相关武器才能被称为是AWS吗?冷老师回应说,一方面,很多情况下,人干预武器运行的能力并非存在于任何时间,很多时候,人的干预是无效的。另一方面,半自助武器只是保留了人对AWS的介入能力,并不是在根本上否认它,它只是一个操作上的概念,并不是在法律上对它的运行进行区分。中国人民大学本科生程任豪提问说,AWS发展所造成了实力的不对称,那国际人道法还需要平等地适用,冷老师给予了耐心的解答。
    中国人民大学硕士生罗粒仁谈了自己对人工智能的体会,她指出,科技发展潜力巨大,机器在超越人的能力方面能够有长足的发展空间。冷老师指出,人工智能应该服务于生活,而不应该挑战人类的伦理和道德,未来可能会出现规定AWS伦理、道德的需求。中国人民大学博士生孙旭评论说,人工智能技术已经广泛应用到现实生活,它所造成的影响是多方位的,需要法律人多加思考,她为大家推荐了电视剧《黑镜》。中国人民大学博士生王玮结合电影《西部世界》评论说,人工智能发展可能融入和颠覆整个人类生活,法律人需要在技术发展之前思考如何限制其负面因素。 

    接下来,朱文奇教授对这次沙龙做出了精彩评议。朱老师指出,人工智能技术的发展空间广阔。“未来已经到来”,对年轻人来讲,需要做的是接触和研究前沿议题,为未来做好准备。“上有天堂,下有书房”,书籍能够向人提供关于未来的知识和想象,年轻人借助各种渠道多了解和学习人类社会的新发展。朱老师向同学们推荐了以色列作家尤瓦尔·赫拉利所著的《人类简史》和《未来简史》,它们为读者提供了对人类社会发展史的不同视角以及对未来社会的独到分析。科技能够改变国际法的面貌。毫无疑问,现在战争是以高科技为支撑的,网络空间的争夺是战争的前沿阵地。网络攻击虽然没有物理损害,但却能产生的巨大的影响,如何在其中贯彻区别和比例原则,是网络战对国际人道法提出的挑战。可预测性是AWS面临的主要问题,当AWS侵犯国家主权原则时,它的行为能否触发国家责任?传统战争(包括使用传统武器的战争)实际上还属于人与人之间的“冷兵器”作战,AWS的发展则在颠覆着人与人这种传统战争模式。对于这些问题,同学们应该多接触新问题,多思考。



    最后,谭观福博士代表沙龙向朱文奇老师赠送了鲜花,并向冷新宇老师赠送了沙龙纪念海报。本期沙龙取得了圆满成功。


(文/李将,图/王玮、邓华、刘韵清)


分享到:
友情链接
中国人民大学 中国民商法律网 中国刑事法律网 中国宪治网 中国法学教育网
人大国际法网 国际法本科精品课程网 冯玉军法律经济学网 中国反垄断法网 中华法律文化网
中国劳动法和社会保障法律网 北京环境法制论坛网 中国人民大学法律诊所 中国人民大学知识产权学院 残疾人权益保障法律研究与服务中
多元化纠纷解决机制研究网 文化遗产法研究网 知识共享@中国大陆 中国证据法网 食品安全治理协同创新中心
《法学家》杂志 中国人民大学出版社法律分社 《人大法律评论》杂志 《经济法学评论》杂志 《判解研究》杂志
世界知识产权法律和条约数据库 中国破产法论坛网 历史与社会 中国人民大学普通法中心 中国人民大学人权研究中心
律师业务研究网
 
© 2001-2017 中国人民大学法学院  地址:北京海淀区中关村大街59号  邮编:100872  京ICP备05066828号 网站管理 lawweb@163.com | 联系我们 | 访问旧版