弱人工智能背景下的犯罪治理

　　每一次科技领域的重大变革，都会显著改变犯罪的方式及应对策略。人工智能的快速兴起，亦会改变犯罪的方式及其防治对策。人工智能技术主要包括计算机视觉、自然语言处理、图像识别、机器学习等，其实质在于强大的数据识别、分析、学习能力。对于人工智能背景下可能引发的犯罪问题以及如何利用人工智能预防犯罪，理论上进行了诸多富有建设性、前瞻性的研究。人工智能根据其智能化的程度，大致可以分为弱人工智能、强人工智能、超强人工智能，强人工智能及超强人工智能是指人工智能能够独立于程序、软件的设计者设定的算法、学习范围而进行思考与行动，接近甚至超过人。目前科学界较为普遍的认识是，走向强人工智能、超强人工智能可能还需要经历至少四五十年。人工智能仍将长期处于弱人工智能发展阶段，正确认识当前弱人工智能背景下的犯罪现状，运用人工智能防范、惩治犯罪，是当前更为紧迫的现实任务。

　　一、弱人工智能背景下的犯罪现状

　　在弱人工智能背景下，风险更多的是来源于“人”的风险，即人利用人工智能或发现人工智能的漏洞实施犯罪。由于人工智能在数据获取、数据分析、风险规避等方面的技术优势，使得诸多犯罪更具有“智能化”的特征，部分特定犯罪的数量也呈现出几何式的递增，犯罪方式也更加隐蔽。通过对“北大法宝”上的裁判文书的梳理，2015年至今，涉“人工智能”这一关键词的刑事判决书有106份，实际上利用人工智能所实施的犯罪可能远超这一数据。

　　较为突出的是“人工智能”被用于对公民个人数据信息的获取，据《中国网民权益保护调查报告2021》显示，网民在网购过程中遭受个人信息泄露的高达68%。通过人工智能手段获取公民个人信息在当下已经具有一定的典型性，危害性也较以往更为突出。例如，我国于2017年成功破获的首例利用人工智能所实施获取验证码案件，犯罪分子利用人工智能技术打造出一条从盗号撞库、破解验证码到贩卖公民信息、实施网络诈骗的全链条黑产。“快啊答题”人工智能“打码”平台在此黑色产业链中起着重要作用，该平台接入“晒密”软件100多款，接入用户高达1万余人，在2017年一季度内破解验证码259亿次，累计破解验证码1204亿次。域外人工智能被用于非法获取个人信息也较为突出，例如，2018年3月，Facebook发生大规模用户数据泄露事件，有大约8700万名用户的数据遭到侵害。随着人工智能对信息采集的能力进一步增强，利用人工智能所收集的信息进一步实施犯罪的危害性更大。

　　诸多传统型的财产犯罪，如诈骗、盗窃、敲诈勒索罪等，也因人工智能的“智能化”使犯罪方式更为便捷、危害性更大、隐蔽性更强。例如，在电信网络诈骗案件中，犯罪行为人运用人工智能，能同时与多达5000名被害人通话。又如，我国现阶段也出现了在面部识别支付的技术应用下，通过技术手段从海量数据中，模仿他人面部特征而窃取他人账户资金。实践中，行为人将淫秽色情电影中的演员的脸与被害人进行交换，利用人工智能大规模地进行数据信息匹配，进而实施诈骗、敲诈勒索等犯罪亦较为典型。更值得注意的是，现今的人工智能技术，可以让人工智能软件模仿特定人的声音，进而对被害人实施诈骗。据英国《每日邮报》报道，2019年3月，一名诈骗犯利用AI语音模仿软件冒充公司大老板，成功让一家英国能源公司的CEO相信自己正在与德国母公司的老板通电话，骗取其22万欧元。诸多财产犯罪都有人工智能的特征，尤其是诈骗与敲诈勒索犯罪。《2017年度网络空间安全报告》指出，全球约6300个平台提供勒索软件交易，勒索软件在2016至2017年的销售量增加了约2502%。犯罪分子倾向于加密被感染设备的数据，向受害者勒索比特币等加密货币。还有诸多利用人工智能所实施的犯罪行为，未被实务充分认识。例如，大数据杀熟也是非法获取他人财物，可能涉及诈骗罪、盗窃罪，但实践中更多的是作为一般违法行为处理。2021年《深圳经济特区数据条例》规定，不得通过数据分析无正当理由对交易条件相同的交易相对人实施差别待遇，违反以上规定者最高可被处以5000万元人民币的罚款。

　　其他犯罪也因人工智能的运用，出现了新的表现形式，或者出现了新类型的犯罪。例如，人工智能的水平不断提高，可以制造出更逼近真人效果并能够顺利沟通的机器人，利用机器人与人发生性关系，或者组织机器人进行淫秽表演。又如，在交通领域，随着自动辅助驾驶技术的快速发展，驾驶人本人在很大程度上会将驾驶的责任、注意义务寄托于系统本身，对于此种背景下出现的交通事故，涉及如何划分驾驶员、自动驾驶程序的设计者与经营者的责任。

　　二、人工智能在应对犯罪中的现状

　　宏观层面而言，人工智能已经被逐步运用于犯罪预警、侦查、防控方面。人工智能犯罪预警机制作为大数据技术的产儿，在对社会各类信息、犯罪模型分析的基础上，可以做出预测性分析和自主布置防控措施的机制。例如，近年来，刑事司法领域主动与大数据、人工智能领域协作，开展了一系列国家重点研发计划，如“犯罪嫌疑人特征精确刻画与精准识别”“职务犯罪智能评估、预防”等一系列以人工智能犯罪风险评估为主题的跨学科科研项目，其效果也被实证数据所肯定。域外的相关做法亦值得我们借鉴，美国普利策奖得主ProPublica调研了佛罗里达州布劳沃德县的重新犯罪风险评估情况，通过人工智能对多种数据进行量化分析，将被逮捕的1万余人的风险评估结论与实际发生的重新犯罪率进行比较，结果准确。

　　针对具体犯罪的防治，理论研究与实务已经逐步开展。例如，实证研究表明，充分运用人工智能进行数据分析，认为运用数据挖掘模型是探索有效防控贷款诈骗风险的重要路径。通过客户受教育程度、工作年限、家庭收入、债务收入比率、信用卡负债、其他债务和风险分类等变量，对于贷款诈骗罪的发生有着较为合理的解释，也有助于防范风险。又如，医疗技术领域，运用人工智能完成诸多辅助工作，可以减少医生的过失进而防范医疗事故犯罪。武汉同济医院在2016年就上线试用了AI-DR辅助诊断技术，5个月的时间，使用AI-DR共诊断X线片8093张。在测试实际病人X线片的过程中，AI-DR于160例病例中发现了2例医生诊断中遗漏的病灶。

　　人工智能对于犯罪的防治已经从具体个罪的理论模型走向实践。例如，对于拐卖儿童犯罪的打击，人工智能系统可以对拐卖犯罪所有的数据快速做出整合，对拐卖儿童犯罪模式和犯罪规律进行提炼，可以较为准确地锁定哪些人是潜在的拐卖犯罪高危人群。同时，智能系统可以通过社会网络智能化分析，将拐卖犯罪嫌疑人复杂的人际关系变为形象的网络图形，使得侦查人员迅速获取整个拐卖团伙交易链。又如，近年来，经济犯罪愈发智能化、职业化、信息化，经侦工作中的重点是“资金流”，当前人工智能技术在对经济犯罪案件涉案资金查控方面的应用主要体现在经侦云系统、违法资金查控平台以及包括可视化数据分析在内的软件和硬件设备。部分地方的经侦部门多利用中国银联警银协助“JASS”系统，查询银联转账（跨境、跨行转账）；利用可视化数据分析系列软件用于研判分析涉众型、犯罪人员关系复杂、资金交易来往频繁的传销和非法集资等案件。

　　三、几点思考

　　进入弱人工智能时代，如何在人工智能的初级阶段完善相关的立法及制度，以期进一步防范利用人工智能所实施的犯罪，发挥人工智能在犯罪防治中的意义，需要进行更加规范化的思考。

　　首先，对于犯罪的治理，应该从事后回应式打击向犯罪预防、预警、预测的治理模式转变。传统的犯罪侦查、治理模式，无法应对人工智能背景下犯罪的技术与数量的双重升级。应建立好的智能系统、营造好的网络环境、数据保护措施等，解决人工智能被用来犯罪的问题。而我国目前尚没有对人工智能产品的研发、流通、使用等制定出较为全面的管理制度，技术规范的介入应当始于人工智能技术生产应用之前，严格控制研发后投入使用的人工智能产品类型。同时，完善过程的跟踪监管，避免产生算法、功能上的改变，防止数据被盗用的风险，加强事后的危害处置。例如，随着自动驾驶技术的推广，技术本身存在的缺陷亦会导致交通事故等，因此，如何在合适的时机，推广何种自动驾驶技术，对于自动驾驶过程中所可能出现的责任各方应如何承担，都是需要进一步防范的。对于犯罪的具体治理策略，也应从简单的经验主义模式转向更为精准的数据、科学的量化分析等模式。早期的经验主义的犯罪治理观，更多的是通过司法人员的经验，而人工智能有助于我们用更为科学、量化的数据研判犯罪的形成、发展、变化趋势，可以更为精准地提供策略。这也需要相关部门和单位精准认识数据，合理的规范数据的范围。

　　其次，通过制度、规范权衡人工智能在具体场景中运用的利与弊。例如，自动驾驶技术整体上对于防范交通事故具有积极意义，但自动驾驶系统的风险降至何种程度才可以推向市场、不同智能等级背景下的驾驶人员对事故承担责任的大小、自动驾驶中遇到突发情况如何选择优先保护的利益，均需要通过制度、立法予以规范。又如，“人工智能”应受伦理道德标准的约束。再如，对于过度依赖人工智能所造成的问题，亦值得警醒。

　　最后，刑法理论亦应积极回应人工智能对犯罪的变革。例如，人工智能辅助系统，包括自动驾驶、医疗辅助等，在一定程度上承担了人的义务，此种背景下人的过失责任如何认定，需要对过失犯罪理论赋予新的内容。又如，在鼓励科技创新的同时，如何从制度、立法层面容忍其可能存在的风险，亦是需要解决的问题。人工智能在整体上减少医疗事故、交通事故的同时，亦可能会因为使用人工智能而诱发新的事故，在对人的责任从宽处理的同时，对被害人的救助也需要进行制度、立法上的完善。

来源：人民法院报  人民法院网  转载请注明出处