您好,欢迎来到安徽省安全技术防范行业协会!
0551- 62818875 64280445

安徽省安全技术防范行业协会

AnHui Security Technology & Protection Industry Association

网站首页>政策法规>政策法规
行业动态

政策法规

涉安防人工智能犯罪的刑法规制

来源:人民法院报 发布时间:2021/02/01
 

  一、涉安防人工智能犯罪的刑法规制的必要性


  随着在人体分析、车辆分析、行为分析和图像分析四方面独具优势的智能产品在各个安防场景下的广泛应用,安防行业成为我国人工智能技术落地的重要特色领域。传统安防行业中系统检索困难、“信息孤岛”、作用被动等问题有望得到彻底解决。但是,安防人工智能在给生活带来更大保障的同时,涉人工智能犯罪在智能安防行业有所蔓延,需要对其进行刑法规制。


  首先,涉安防人工智能犯罪包括以下类型:(1)以安防人工智能为对象的犯罪,如恐怖分子对公共场所视频安防监控系统的攻击;(2)利用安防人工智能作为工具的犯罪,如窃取某企业“安防云端”出入口控制系统中的人脸识别信息进行诈骗;(3)安防人工智能失控型犯罪,当前智能安防行业中研发和应用的智能安防电网和巡逻机器人等都具有一定防卫或攻击能力,如果失控可能造成严重危害。


  其次,涉安防人工智能犯罪具有以下特点:(1)社会危害性因为智能安防的庞大体量和智能框架的强联动性而快速膨胀;(2)侵犯对象更为广泛,既包括传统的人身和财产,也包括随着科技发展而出现的数据安全、人工智能系统安全和生物识别信息;(3)犯罪手段更加科技化、智能化、隐蔽化,当前智能安防系统几乎实现了“AI+云”的整体架构,对其进行破坏和利用需要较高的专业水平。


  再次,我国目前虽然对人工智能的发展高度重视,将其列入《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》中,也发布了《新一代人工智能发展规划》等文件,但是对于人工智能犯罪有关的法律责任的规定尚属空白,更遑论为安防人工智能犯罪的追责提供依据了。


  虽然我国目前尚无涉安防人工智能的判例,但无论是被誉为“人脸识别第一案”(郭某诉杭州野生动物世界有限公司案)里体现出的智能安防中生物识别信息的敏感度,还是德国大众汽车工厂“机器人杀人案”中表现出的人工智能的危险性,都提示我们应当涉安防人工智能犯罪进行有效的刑法规制。


  二、涉安防人工智能犯罪刑法规制所面临的挑战


  (一)立法规定的不足


  涉安防人工智能犯罪立法的不足主要体现在制定于传统社会的刑法规范与新兴的人工智能技术之间的涵摄关系难以建立,无法对涉安防人工智能犯罪形成有效对应。


  首先,从整体上看,我国在人工智能领域的刑事立法尚处于空白状态,导致虽然在现实中人工智能危害行为类型层出不穷且程度不断加深,但是在实践中却鲜见相关的判例,涉安防人工智能犯罪的判例更是无从查见。


  其次,具体到涉安防人工智能领域,一方面,相关刑法规范缺失。目前与人工智能安防有关的条文仅有刑法修正案(十一)新增的第一百三十四条之一第一款规定,破坏、关闭安防设备以及篡改、隐瞒、销毁相关安防信息的行为构成犯罪,但该规定并没有涉及利用智能安防设备实施的新型犯罪以及智能安防设备过失犯罪的行为类型与法律责任。


  另一方面,相关前置的法规范处于空白。虽然当前我国的安防人工智能产业蓬勃发展,但却缺乏相关的行政法规或规章,以及行业内部的规范加以引导。如在行业内影响力较大的“安天下”《2020年人工智能安防行业研究分析报告》,对于行业内部自律规范和风险预防等问题很少提及。这种前置法以及行业规范的缺失就难以对该行业的野蛮生长进行有效引导,导致刑事法律风险增加。


  (二)司法认定的困难


  首先,安防人工智能能否被认定为犯罪主体。目前智能安防中的事前预警型产品具有一定的防卫功能,而人工智能虽然可以具有自主学习、深度学习的能力,但是因为对大数据的极端依赖导致的易受数据欺骗等内在缺陷,存在防卫过当或假象防卫的风险,而且如果发生编程错漏或系统失控,也可能危害社会。虽然目前我国的安防人工智能仍属于薄弱的人工智能的阶段,但这些事件的外在表现都是智能电网或防卫机器人在深度学习后“实施”了危害行为,似乎形式上符合犯罪的主体要件。


  其次,罪与非罪的界定存有困难。涉人工智能犯罪因其侵犯法益的广泛性,有触犯很多罪名的可能性。当犯罪中的关键要素因其新兴科技属性在刑法中并无明确规定时,就很可能存在罪与非罪的认定困难。例如当安防从业人员将系统中的人脸信息这一生物识别信息提供给他人时,是否构成侵犯公民个人信息罪。再如利用对抗样本等攻击数据实现对智能视频安防监控系统的攻击,能否被认定为破坏计算机信息系统罪。


  最后,此罪与彼罪界限模糊。安防人工智能是传统安防需求和人工智能技术的结合,应用场景非常广泛,当发生犯罪时会牵涉多个法益,司法适用中会出现此罪与彼罪的困惑。譬如目前很多公路、航道都安装了智能安防设备或智能指挥标志,设备以计算机为中台、以智能系统为内容,当对其进行大规模破坏时,是构成破坏计算机信息系统罪?还是破坏交通设施罪?值得我们思考。


  三、涉安防人工智能犯罪刑法规制的应对


  首先,在现行法律框架下合理运用刑法解释方法,对相关犯罪进行规制。在刑法完善之前,积极适用当前刑法规定进行解释,对相关行为进行规制。当前我国的安防人工智能整体来说还处于薄弱的人工智能的阶段,所以如果因为智能电网或防卫机器人受数据欺骗、发生编程错漏或系统失控等原因而侵害他人,实际上还是由于设计者的设计漏洞,或使用者的使用不当而造成,根据行为人主观上是故意还是过失追究其刑事责任。


  在智能安防中,目前最为重要的人工智能技术是生物特征识别,包括人脸核验、指纹采集、声纹识别等,这些生物识别信息的采集和运用过程中如果存在不当或漏洞,可能侵犯公民人身权和财产权。如果安防人员将人脸信息提供给他人时,由于生物识别信息可以认定为个人信息,可以构成侵犯公民个人信息罪。对于利用对抗样本等攻击数据对智能视频安防监控系统进行攻击的行为,也可以构成破坏计算机信息系统罪。而对于此罪与彼罪的认定,则要根据我国牵连犯、想象竞合犯等一罪与数罪的认定规则予以认定。


  其次,完善涉安防人工智能犯罪的刑法立法。基于罪刑法定原则的内在要求,刑法解释应限定在用语可能性及国民预测可能性的范围内。在人工智能罪刑规范整体缺乏的前提下,通过刑法解释所能应对的挑战极为有限。因此可以考虑通过刑法修改的方式规定包括安防人工智能在内的涉人工智能犯罪条款,如考虑增设非法利用人工智能罪、破坏人工智能管理秩序罪等,为司法提供充分的制度供给与条文依据。


  最后,从犯罪综合治理的视野出发,完善涉安防人工智能的行业自律规范与民事、行政等前置法规范,多方位、全链条地实现犯罪的预防与治理。犯罪治理应当是一个全面、立体的系统化工程。在人工智能时代,犯罪综合治理的必要性愈发凸显。一方面,技术迭代速度的加快使得刑法的滞后性愈发明显,刑法应更加强调自身保障法的地位,充分发挥前置法规范的作用,实现积极的一般预防效果。


  另一方面,在涉安防人工智能犯罪的预防与治理过程中企业、平台具有较大的技术优势和监管优势,应当作为犯罪治理的重要一方。因而建立和完善行业内部的自律规范、充分利用行业、企业的治理资源和治理能力,是涉安防人工智能犯罪有效治理的关键。