论文部分内容阅读
人工智能作为一项影响面极广的颠覆性技术，其发展的不确定性带来的风险与挑战，对法律、安全、就业、道德伦理、政府治理、经济发展、社会稳定乃至全球治理将产生深远影响。如何趋利避害，共享成果，已成为人们共同关心的问题。
2018年9月，世界人工智能大会在上海召开。上海司法界、学界、研发部门等相关领导、学术带头人250余名嘉宾参加了“人工智能与法治”高端研讨会，掀起了一场场精彩绝伦的头脑风暴，并发出了“人工智能与未来法治构建上海倡议”。
倡议包含“人工智能与未来法治构建的理念框架”“促进规范保障人工智能发展的法治路径”以及“加强人工智能法律领域的教育研究与实践”三大部分。这其中，不少司法实务部门的代表更为关注的是研讨会上的硬货：诸如探索在国家层面建立人工智能规范发展与风险防控研究体系，规划布局、统筹指导研究的方向、重点，提升针对性、系统性、权威性；建立与人工智能创新发展相适应的立法规范、法律体系、政策体系和伦理规范，形成人工智能安全评估、风险防控法律机制，提升技术规则、应用规则的管控能力；制定技术设计阶段的法律规范，通过规则设定促进人工智能算法的公正、透明、安全，避免算法歧视，杜绝有悖伦理价值及公序良俗的技术应用；构建数据权益体系，形成数据分享的安全机制、利益机制、追责机制，保证数据合法、安全流通使用；加强人工智能知识产权研究，健全人工智能领域技术创新、知识产权保护与标准化互动支撑机制；开展对人工智能应用场景的法律研究，建立人工智能复杂场景下风险防范与应对机制；开展预防和惩治涉人工智能违法犯罪的相关研究，避免人工智能被应用于违法犯罪活动等。
上海市人民检察院检察长张本才在致辞中表示，上海检察机关将以智能化作为工作创新发展的战略驱动，努力提升服务大局能级和司法便民水平。人工智能的不断提速升级，为加快法治建设、促进国家治理体系和治理能力现代化提供了新技术和新动能，只有超前研究、因势利导，才能促进“现代科技力量和司法人员创造力有机结合、科技理性和司法理性深度融合”，共同护航司法公正、促进司法文明。
把握趋势、抢占先机、提前布局
2018年以来，美国、欧盟、法国、英国、韩国、日本等国家和地区都在密集发布人工智能战略和新的研发布局等。关于美国，最重要的一个趋势就是，特朗普对人工智能发展的态度发生重大转变。韩国、法国、日本等国家则进一步细化了人工智能的研发布局和行动计划，制定了非常符合本国需求的专项政策。可以说，从国家层面持续推动人工智能发展，特别是以人工智能发展抢抓未来竞争先机已成大势所趋。
科技部中国科学技术信息研究所党委书记赵志耘认为——
我国发布人工智能规划可以说非常及时，国家在战略部署上已做好准备，后期还需要全社会共同努力，加快推动规划的全面实施。在全球范围内，人工智能领域的中美竞争将会是一种常态。在这个过程中，在保持创新自信的同时，也要保持清醒，正视我们存在的问题和差距。我们需高度重视人工智能基础研究和关键核心技术研发，加快构建更加开放友好的应用生态。
未来的人工智能有可能成为影响国家竞争力的变革性技术，甚至重塑全球竞争格局。这种颠覆性既可能产生正面影响，也有可能带来突发的、意想不到的负面影响。当前人工智能技术取得的巨大发展，越来越多地面临“高风险的应用”，这些处在开放、动态环境下的人工智能技术一旦出现轻微的错误，产生的结果可能是致命的、毁灭性的。其中，在法治领域也会有许多应用，比如智慧司法等方面的应用。但与此同时，这些应用领域均已经或将会产生一些不确定性的因素或风险，因此，我们要特别关注人工智能发展带来的不确定性，加强人工智能对社会、法律、伦理等方面影响的研究。
弱人工智能司法领域的上海探索
2018年7月10日，上海市委书记李强在市委中心组学习会上强调，上海打造国家的人工智能发展高地，司法应在其中。
早在2014年10月，党的十八届四中全会做出推进以审判为中心的诉讼制度改革的重大部署。为使这项改革落地，中央政法委运用高科技助力改革，做出了研发“推进以审判为中心的诉讼制度改革软件”的决策部署。2017年2月6日，孟建柱同志、韩正同志到上海高院调研时，部署了司法体制改革的任务，其中一项是：由上海高院牵头，承担研发“推进以审判为中心的诉讼制度改革软件”的任务（简称“206工程”）。在上海市检察、公安、司法机关以及市发改委、经信委、财政局等相关部门的支持配合下，由上海高院与科大讯飞公司合作开发。系统定位为智能辅助办案，起到的是“智能助理”的作用，等于为法官、检察官、侦查員配备了一个AI助理，命名为“上海刑事案件智能辅助办案系统”。
该系统主要依托互联网、大数据、云计算等现代科技，充分运用图文识别、自然语言理解、智能语音识别、司法实体识别、实体关系识别、司法要素自动提取等人工智能技术，通过制定统一的证据标准指引、证据规则指引，并嵌入公检法司机关刑事办案系统，实现对办案人员统一证据标准、证据规则的指引和对证据的校验、把关、提示、监督，确保侦查、审查起诉的案件事实证据经得起法律检验，确保刑事办案过程全程可视、全程留痕、全程监督，减少司法任意性，防范冤假错案产生。
该系统的核心业务功能包括：证据标准指引功能和证据规则指引功能。证据是诉讼的灵魂。根据刑事诉讼关于办案流程的不同要求，设计者坚持完整性与阶段性相统一的原则制定出证据标准，为办案人员提供统一适用、简单易行、数据化、清单式的办案指引。目前，证据标准、规则指引不仅嵌入智能辅助办案系统中，而且已经做成手机APP，可随时随地为办案人员提供指引，方便高效快捷。该系统共涉及29项知识产权，其中，上海高院与科大讯飞公司共同研发产生的知识产权6项（专利5项、著作权1项）。
2017年9月，上海高院在研发刑事案件智能辅助办案系统的基础上，构建人力与科技深度融合的标准化、规范化、智能化的民商事、行政审判模式，发挥人工智能在辅助法官办案中认定事实、适用法律、采信证据、公正裁判中的作用，规范法官的自由裁量权行使，促进法律使用统一，减少司法任意性，提升办案质效和司法公信力。民商事、行政案件智能辅助办案系统设计了27项功能，已于2017年11月27日上线试运行。截至2018年9月，已完成第一期8个案由和第二期12个案由的办案要件指引制定工作。 上海市法学会党组书记崔亚东介绍了“上海刑事案件智能辅助办案系统”实践情况并提出了自己的思考。他认为，人工智能时代的到来，司法一方面要抓住机遇，跟上时代的步伐，主动作为，推进司法本身现代化的实现；另一方面要为人工智能国家战略的实施提供法制保障。目前人工智能仍处于初级阶段，在司法实践中尤其是办理案件中，只能是智能辅助办案，绝不能替代法官、检察官、侦查人员办案。
与会的中国刑法学研究会副会长刘宪权指出，根据发展形态，我们可以将机器人技术的发展历程分为三个阶段——普通机器人时代、弱人工智能时代和强人工智能时代。普通机器人与智能机器人的区别在于是否具有深度学习能力，目前我们尚处在弱人工智能时代。
综上，笔者认为上海司法实务部门正是准确把握了人工智能发展的实际情况，做出了符合目前技术发展现状的人工智能与司法对接定位。
技术专家构建人工智能对接社会治理新版图
腾讯专家王栋认为，人工智能的发展与应用正在深刻改变着法学的社会基础和法治条件，改变着法学研究的对象和法律运行技术。大数据已成为推动经济转型发展的新动力，重塑国家竞争优势的新机遇，提升政府治理能力的新途径。可运用大数据破解社会治理难题，构建人工智能社会的全景图，以开创社会治理的“云时代”。
据王栋介绍，“腾讯云”是腾讯倾力打造的云计算机品牌，正以卓越的科技能力助力各行各业数字化转型，为全球客户提供领先的云计算、大数据、人工智能服务，以及定制化行业解决方案。在“互联网 ”背景下，各级政府正在探索如何将政务信息化过程中积累的海量数据发挥出更大价值，为民众提供更便捷智能服务，优化提升行政效率和质量。
在司法领域，腾讯云的互联网技术与大数据公司“国双”在司法行业的积累深度融合，为司法科技领域提供了互联网创新技术。腾讯云提供的智慧法院解决方案，包括远程审判、智能语音、原被告人脸核身等多项审判智能化服务，其中的智能语音识别系统目前已经在包括北京知识产权法院在内的全国40多家法院试点应用，为深化司法改革提供先进的技术支撑。
除了智慧法院，为了完善立体化社会治安防控体系，实施“雪亮工程”能把治安防范措施进一步延伸到群众身边。“雪亮”不仅仅是连接公安的摄像头，还要连接政府、环保、企业、社会单位，所以是一个视频的整合，是一个群众性综合治理工程。腾讯云对于“雪亮工程”的解决方案是“四网一大脑”，将治安防控体系的建设，以大数据的深度挖掘和分析为方向，利用大联网、大融合、大汇聚的架构设计，来获得海量的视频数据。所谓的“四网”是指互联网、政务外网、视频专网和公安信息网。其中，视频分析技术可管控重点目标，包括了全域感知、综合分析、目标管控、综合查询和大数据分析。其包括了重点人员和车辆感知和分析，布控预案、预警及规则，包括了人员、车辆、情报、目标轨迹搜索，还有平安指数、出租屋指数和吸毒指数。由此开发的智慧城市大脑大大减少了警力的支出，提高了犯罪预测的准确性。
如何应对人工智能带来的新挑战
微软全球副总裁洪小文认为，我们可以利用人工智能实现许多了不起的成就。结合机器和人类的优势，我们有望解决人类社会面临的贫困、疾病和无知等重大挑战，但是，我们同样希望以一种合乎道德的方式，来实现人工智能的潜力……
伴随着大数据应用和软硬件设备的不断发展完善，人工智能的发展空间广阔。据统计，现阶段超过五分之一的常规律师业务已可由人工智能替代完成，人工智能正加速进入人类社会生活。图灵曾提出人工智能迟早会威胁到人类生存，必须在问题积重难返前，对人工智能的发展做出妥善的法律规制安排。具有类似人类思考与深度学习的能力是人工智能与其他科技最大的差异。在人工智能的现实发展中，已经出现机器人能否享有著作权以及机器人致害的责任问题等。这些都涉及人工智能的法律地位、法律责任、权利义务范围等应如何界定。在法律制度无法有效应对实际情况发展时，法律理论首先要明确的就是人工智能是否具有法律人格。中国法学会民法学研究会常务理事彭诚信提出：法律人格，是指法律认可的享有权利、承担义务的资格，包括自然人主体、拟制主体两类。对于自然人，法律全面无条件承认其法律人格；而拟制主体的人格则需经由法律的明確规定（如胎儿）或者经过特定的认可规则方可取得（如公司的设立等）。现行法律体系下，人工智能是否具有法律人格理论上尚无统一结论，这也造成实践中的适用困境与疑惑……
此外，就犯罪预防而言，据国家互联网应急中心报告，联网智能设备被恶意控制，并用于发起大流量分布式拒绝服务攻击的现象更加严重；具有国家背景的黑客组织发动的APT攻击事件直接威胁了国家安全和稳定。统计数据显示，我国2017年上半年泄露及被盗数据达19亿条（超过2016全年的14亿条），我国2017全年信息泄露超过50亿条。勒索病毒尤其猖獗。国家互联网应急中心报告，欺诈勒索软件在互联网上肆虐。2017年5月12日，全球近百个国家遭受勒索病毒“WannaCry”影响，超过10万台计算机中毒致使大量用户文件资料被锁，受害用户只有支付高额赎金才能恢复。中国部分高校校园网用户中招，医疗、能源、公安等行业皆受到严重影响。
北京优炫软件股份有限公司联合创始人赵春学认为，一方面AI数据安全投资潜力巨大。从国内外AI数据安全投入规模现状对比来看，国内AI数据安全投入在AI中的占比约为1%左右，而发达国家AI数据安全投入占比已经达到10%左右，潜力空间巨大。另一方面，AI数据安全需求市场巨大。应对威胁，中国应不断地加大对于AI数据保护的安全投入，AI数据安全市场将是安全行业价值最高、规模最大的细分市场之一，足以支撑未来千亿级市场空间。中央重视网络安全工作是第一推动力。网络运营者应当按照网络安全等级保护制度的要求，履行安全保护义务，保障网络免受干扰、破坏。
2018年9月，世界人工智能大会在上海召开。上海司法界、学界、研发部门等相关领导、学术带头人250余名嘉宾参加了“人工智能与法治”高端研讨会，掀起了一场场精彩绝伦的头脑风暴，并发出了“人工智能与未来法治构建上海倡议”。
倡议包含“人工智能与未来法治构建的理念框架”“促进规范保障人工智能发展的法治路径”以及“加强人工智能法律领域的教育研究与实践”三大部分。这其中，不少司法实务部门的代表更为关注的是研讨会上的硬货：诸如探索在国家层面建立人工智能规范发展与风险防控研究体系，规划布局、统筹指导研究的方向、重点，提升针对性、系统性、权威性；建立与人工智能创新发展相适应的立法规范、法律体系、政策体系和伦理规范，形成人工智能安全评估、风险防控法律机制，提升技术规则、应用规则的管控能力；制定技术设计阶段的法律规范，通过规则设定促进人工智能算法的公正、透明、安全，避免算法歧视，杜绝有悖伦理价值及公序良俗的技术应用；构建数据权益体系，形成数据分享的安全机制、利益机制、追责机制，保证数据合法、安全流通使用；加强人工智能知识产权研究，健全人工智能领域技术创新、知识产权保护与标准化互动支撑机制；开展对人工智能应用场景的法律研究，建立人工智能复杂场景下风险防范与应对机制；开展预防和惩治涉人工智能违法犯罪的相关研究，避免人工智能被应用于违法犯罪活动等。
上海市人民检察院检察长张本才在致辞中表示，上海检察机关将以智能化作为工作创新发展的战略驱动，努力提升服务大局能级和司法便民水平。人工智能的不断提速升级，为加快法治建设、促进国家治理体系和治理能力现代化提供了新技术和新动能，只有超前研究、因势利导，才能促进“现代科技力量和司法人员创造力有机结合、科技理性和司法理性深度融合”，共同护航司法公正、促进司法文明。
把握趋势、抢占先机、提前布局
2018年以来，美国、欧盟、法国、英国、韩国、日本等国家和地区都在密集发布人工智能战略和新的研发布局等。关于美国，最重要的一个趋势就是，特朗普对人工智能发展的态度发生重大转变。韩国、法国、日本等国家则进一步细化了人工智能的研发布局和行动计划，制定了非常符合本国需求的专项政策。可以说，从国家层面持续推动人工智能发展，特别是以人工智能发展抢抓未来竞争先机已成大势所趋。
科技部中国科学技术信息研究所党委书记赵志耘认为——
我国发布人工智能规划可以说非常及时，国家在战略部署上已做好准备，后期还需要全社会共同努力，加快推动规划的全面实施。在全球范围内，人工智能领域的中美竞争将会是一种常态。在这个过程中，在保持创新自信的同时，也要保持清醒，正视我们存在的问题和差距。我们需高度重视人工智能基础研究和关键核心技术研发，加快构建更加开放友好的应用生态。
未来的人工智能有可能成为影响国家竞争力的变革性技术，甚至重塑全球竞争格局。这种颠覆性既可能产生正面影响，也有可能带来突发的、意想不到的负面影响。当前人工智能技术取得的巨大发展，越来越多地面临“高风险的应用”，这些处在开放、动态环境下的人工智能技术一旦出现轻微的错误，产生的结果可能是致命的、毁灭性的。其中，在法治领域也会有许多应用，比如智慧司法等方面的应用。但与此同时，这些应用领域均已经或将会产生一些不确定性的因素或风险，因此，我们要特别关注人工智能发展带来的不确定性，加强人工智能对社会、法律、伦理等方面影响的研究。
弱人工智能司法领域的上海探索
2018年7月10日，上海市委书记李强在市委中心组学习会上强调，上海打造国家的人工智能发展高地，司法应在其中。
早在2014年10月，党的十八届四中全会做出推进以审判为中心的诉讼制度改革的重大部署。为使这项改革落地，中央政法委运用高科技助力改革，做出了研发“推进以审判为中心的诉讼制度改革软件”的决策部署。2017年2月6日，孟建柱同志、韩正同志到上海高院调研时，部署了司法体制改革的任务，其中一项是：由上海高院牵头，承担研发“推进以审判为中心的诉讼制度改革软件”的任务（简称“206工程”）。在上海市检察、公安、司法机关以及市发改委、经信委、财政局等相关部门的支持配合下，由上海高院与科大讯飞公司合作开发。系统定位为智能辅助办案，起到的是“智能助理”的作用，等于为法官、检察官、侦查員配备了一个AI助理，命名为“上海刑事案件智能辅助办案系统”。
该系统主要依托互联网、大数据、云计算等现代科技，充分运用图文识别、自然语言理解、智能语音识别、司法实体识别、实体关系识别、司法要素自动提取等人工智能技术，通过制定统一的证据标准指引、证据规则指引，并嵌入公检法司机关刑事办案系统，实现对办案人员统一证据标准、证据规则的指引和对证据的校验、把关、提示、监督，确保侦查、审查起诉的案件事实证据经得起法律检验，确保刑事办案过程全程可视、全程留痕、全程监督，减少司法任意性，防范冤假错案产生。
该系统的核心业务功能包括：证据标准指引功能和证据规则指引功能。证据是诉讼的灵魂。根据刑事诉讼关于办案流程的不同要求，设计者坚持完整性与阶段性相统一的原则制定出证据标准，为办案人员提供统一适用、简单易行、数据化、清单式的办案指引。目前，证据标准、规则指引不仅嵌入智能辅助办案系统中，而且已经做成手机APP，可随时随地为办案人员提供指引，方便高效快捷。该系统共涉及29项知识产权，其中，上海高院与科大讯飞公司共同研发产生的知识产权6项（专利5项、著作权1项）。
2017年9月，上海高院在研发刑事案件智能辅助办案系统的基础上，构建人力与科技深度融合的标准化、规范化、智能化的民商事、行政审判模式，发挥人工智能在辅助法官办案中认定事实、适用法律、采信证据、公正裁判中的作用，规范法官的自由裁量权行使，促进法律使用统一，减少司法任意性，提升办案质效和司法公信力。民商事、行政案件智能辅助办案系统设计了27项功能，已于2017年11月27日上线试运行。截至2018年9月，已完成第一期8个案由和第二期12个案由的办案要件指引制定工作。 上海市法学会党组书记崔亚东介绍了“上海刑事案件智能辅助办案系统”实践情况并提出了自己的思考。他认为，人工智能时代的到来，司法一方面要抓住机遇，跟上时代的步伐，主动作为，推进司法本身现代化的实现；另一方面要为人工智能国家战略的实施提供法制保障。目前人工智能仍处于初级阶段，在司法实践中尤其是办理案件中，只能是智能辅助办案，绝不能替代法官、检察官、侦查人员办案。
与会的中国刑法学研究会副会长刘宪权指出，根据发展形态，我们可以将机器人技术的发展历程分为三个阶段——普通机器人时代、弱人工智能时代和强人工智能时代。普通机器人与智能机器人的区别在于是否具有深度学习能力，目前我们尚处在弱人工智能时代。
综上，笔者认为上海司法实务部门正是准确把握了人工智能发展的实际情况，做出了符合目前技术发展现状的人工智能与司法对接定位。
技术专家构建人工智能对接社会治理新版图
腾讯专家王栋认为，人工智能的发展与应用正在深刻改变着法学的社会基础和法治条件，改变着法学研究的对象和法律运行技术。大数据已成为推动经济转型发展的新动力，重塑国家竞争优势的新机遇，提升政府治理能力的新途径。可运用大数据破解社会治理难题，构建人工智能社会的全景图，以开创社会治理的“云时代”。
据王栋介绍，“腾讯云”是腾讯倾力打造的云计算机品牌，正以卓越的科技能力助力各行各业数字化转型，为全球客户提供领先的云计算、大数据、人工智能服务，以及定制化行业解决方案。在“互联网 ”背景下，各级政府正在探索如何将政务信息化过程中积累的海量数据发挥出更大价值，为民众提供更便捷智能服务，优化提升行政效率和质量。
在司法领域，腾讯云的互联网技术与大数据公司“国双”在司法行业的积累深度融合，为司法科技领域提供了互联网创新技术。腾讯云提供的智慧法院解决方案，包括远程审判、智能语音、原被告人脸核身等多项审判智能化服务，其中的智能语音识别系统目前已经在包括北京知识产权法院在内的全国40多家法院试点应用，为深化司法改革提供先进的技术支撑。
除了智慧法院，为了完善立体化社会治安防控体系，实施“雪亮工程”能把治安防范措施进一步延伸到群众身边。“雪亮”不仅仅是连接公安的摄像头，还要连接政府、环保、企业、社会单位，所以是一个视频的整合，是一个群众性综合治理工程。腾讯云对于“雪亮工程”的解决方案是“四网一大脑”，将治安防控体系的建设，以大数据的深度挖掘和分析为方向，利用大联网、大融合、大汇聚的架构设计，来获得海量的视频数据。所谓的“四网”是指互联网、政务外网、视频专网和公安信息网。其中，视频分析技术可管控重点目标，包括了全域感知、综合分析、目标管控、综合查询和大数据分析。其包括了重点人员和车辆感知和分析，布控预案、预警及规则，包括了人员、车辆、情报、目标轨迹搜索，还有平安指数、出租屋指数和吸毒指数。由此开发的智慧城市大脑大大减少了警力的支出，提高了犯罪预测的准确性。
如何应对人工智能带来的新挑战
微软全球副总裁洪小文认为，我们可以利用人工智能实现许多了不起的成就。结合机器和人类的优势，我们有望解决人类社会面临的贫困、疾病和无知等重大挑战，但是，我们同样希望以一种合乎道德的方式，来实现人工智能的潜力……
伴随着大数据应用和软硬件设备的不断发展完善，人工智能的发展空间广阔。据统计，现阶段超过五分之一的常规律师业务已可由人工智能替代完成，人工智能正加速进入人类社会生活。图灵曾提出人工智能迟早会威胁到人类生存，必须在问题积重难返前，对人工智能的发展做出妥善的法律规制安排。具有类似人类思考与深度学习的能力是人工智能与其他科技最大的差异。在人工智能的现实发展中，已经出现机器人能否享有著作权以及机器人致害的责任问题等。这些都涉及人工智能的法律地位、法律责任、权利义务范围等应如何界定。在法律制度无法有效应对实际情况发展时，法律理论首先要明确的就是人工智能是否具有法律人格。中国法学会民法学研究会常务理事彭诚信提出：法律人格，是指法律认可的享有权利、承担义务的资格，包括自然人主体、拟制主体两类。对于自然人，法律全面无条件承认其法律人格；而拟制主体的人格则需经由法律的明確规定（如胎儿）或者经过特定的认可规则方可取得（如公司的设立等）。现行法律体系下，人工智能是否具有法律人格理论上尚无统一结论，这也造成实践中的适用困境与疑惑……
此外，就犯罪预防而言，据国家互联网应急中心报告，联网智能设备被恶意控制，并用于发起大流量分布式拒绝服务攻击的现象更加严重；具有国家背景的黑客组织发动的APT攻击事件直接威胁了国家安全和稳定。统计数据显示，我国2017年上半年泄露及被盗数据达19亿条（超过2016全年的14亿条），我国2017全年信息泄露超过50亿条。勒索病毒尤其猖獗。国家互联网应急中心报告，欺诈勒索软件在互联网上肆虐。2017年5月12日，全球近百个国家遭受勒索病毒“WannaCry”影响，超过10万台计算机中毒致使大量用户文件资料被锁，受害用户只有支付高额赎金才能恢复。中国部分高校校园网用户中招，医疗、能源、公安等行业皆受到严重影响。
北京优炫软件股份有限公司联合创始人赵春学认为，一方面AI数据安全投资潜力巨大。从国内外AI数据安全投入规模现状对比来看，国内AI数据安全投入在AI中的占比约为1%左右，而发达国家AI数据安全投入占比已经达到10%左右，潜力空间巨大。另一方面，AI数据安全需求市场巨大。应对威胁，中国应不断地加大对于AI数据保护的安全投入，AI数据安全市场将是安全行业价值最高、规模最大的细分市场之一，足以支撑未来千亿级市场空间。中央重视网络安全工作是第一推动力。网络运营者应当按照网络安全等级保护制度的要求，履行安全保护义务，保障网络免受干扰、破坏。