摘 要: 人工智能科技为法律职业带来便捷化的同时亦在影响着业已形成的法律职业生态体系,给法律职业群体带来现实性和可能性困境。从法律职业群体面向来说,应提高法律职业人员综合技能,重视法律职业人文精神塑造,凸显法律思维等。从人工智能管控面向来说,人工智能在法律职业领域的运用应以安全为首要原则,在法律职业领域加强人工智能立法研究,明确人工智能在法律职业领域的法律客体定位,建构以人类权利为中心的人工智能伦理原则,创设在法律职业应用中人工智能类产品登记制度等措施。
关键词: 人工智能; 法律职业; 大数据服务;
Abstract: While bringing convenience to the legal profession,artificial intelligence technology is also affecting the legal profession ecological system that has been formed,bringing reality and possibility dilemma to the legal profession group. The legal profession group aspect includes improving comprehensive skills of legal profession personnel,attaching importance to the humanistic spirit shaping of legal profession,and highlighting the legal thinking and other measures. Artificial intelligence control includes usage in the field of artificial intelligence inlegal profession should take safety as the first principle,strengthening the legislation of artificial intelligence research infield of legal profession,clearing legal object orientation of artificial intelligence in the legal profession,constructing the ethical principles of artificial intelligence for the center with human rights,and establishing artificial intelligence application products registration system in the legal profession and other measures.
Keyword: artificial intelligence; legal profession; big data service;
一、引言
正如《双城记》开篇所述“这是最好的时代,也是最坏的时代”,借以阐释人工智能(Artificial Intelligence)科技对社会行业结构影响不无恰当。人工智能作为新一代产业革新的核心驱动智能技术,是当今社会最具变革性力量之一,渐次影响并改变着人类社会生产生活方式,俨然已成为社会各行业发展新动力和新趋势,对法律职业领域亦必将产生深远影响。具体而言,当前人工智能技术在法律职业领域业已尝试运用,如法官和检察官利用智能化辅助量刑系统和智慧检务系统,借以提高办案质量和效率;律师及法务管理人员利用人工智能大数据服务平台可为目标客户提供优质法律服务,同时人工智能系统依托大数据分析亦可为特定客户提供专业化合同起草与审查,法律规范咨询与检索等较专业化法律服务。依此而论,传统法律职业从业人员尤其是初级法律从业者的生存环境将被进一步压缩。因之,人工智能技术在法律职业领域的运用可谓一把双刃剑,可能出现为法律职业带来便捷化的同时亦对既定的法律职业生态体系造成破坏的场景,届时法律职业群体所面临的困境必将附随而至。在此背景下,法律职业群体应通观人工智能技术发展态势,关涉法律职业领域的变革与创新务必再次加速。
换言之,人工智能时代背景下法律职业群体究竟有何现实性和可能性困境?法律职业群体对此应如何有效应对?人类可否实现在法律职业领域内对人工智能做到有效管控?人工智能时代背景下法律职业群体的前景如何?文章围绕上述问题渐次展开。
二、人工智能时代法律职业群体困境:现实性和可能性
近几年,人工智能科技研究和应用如火如荼,世界各国和地区竞相出台相应政策力图占领人工智能科技领域制高点。惟需引起关注的是,美国发布的《为人工智能的未来做好准备》《美国国家人工智能研究和发展战略计划》及最新《人工智能报告》1;欧盟起草的“欧盟人工智能道德准则草案”2;2018年巴西、德国、法国等国所提出的本国人工智能发展战略;2017年我国提出的《新一代人工智能发展规划》[国发[2017]35号]3及2019年的《关于人工智能和实体经济深度融合的指导意见》4等,不一而足。
探究人工智能科技对法律职业群体造成的困境,应以人工智能和法律职业的准确界定为逻辑起点。何谓人工智能?约翰·麦卡锡认为,依托人工智能技术可以创制诸如智能类机器人,尤其以智能化计算机程序为代表的一系列科学和工程为体征,通过计算机复杂的计算系统来理解人类智力,但并不局限于此的一系列系统方法[1]。但此定义并非得到所有人赞成,主要在于人们对“智能”理解各异所致。有观点认为,人工智能是指由人类设计并研发,在给定一个复杂目标前提下,依托相应技术感知周遭环境、理解所收集相关数据,以获取知识并进行推理再决定要采取最佳行动并实现既定目标的系统或者机器(含软件和硬件)统称[2],亦有观点认为,人工智能依托算法科技,在数据分析技术以及高性能计算系统基础上,人工赋予计算机以逻辑分析判断和感知推理,以致可进行独立判断能力,并在输入特定条件下可进行自我认知学习及相应决策执行的智能活动等[3]。而何谓法律职业?可从广义和狭义两方面说明。狭义上讲法律职业指依靠专业法律基础知识为支撑的法律从业人员,主要包括法官、检察官、律师等;广义上讲,只要从事与法律相关的岗位都属于法律职业,本文仅针对狭义法律职业分析论证。
“人工智能+法律职业”揭示了人工智能科技在法律职业领域的运用。早在20世纪80年代,就有学者声称:“不容置疑的是,能够执行复杂计划和法律推理的计算机系统肯定是未来几十年法律实践的一场革命”[4]。换言之,人工智能已可替代人类从事一些相对简单且重复性劳动,如长臂机器人在汽车制造、零部件安装的运用等。法律行业亦在积极尝试,诸如上海市高级人民法院研发的“上海刑事案件智能辅助办案系统”、江苏智慧审判系统等。一如上文所指,人工智能技术为法律职业带来便捷化的同时,法律职业生态体系尚存现实性困境,尤其对初级法律从业人员的冲击。诚如美国人工智能专家拉塞尔和诺维格认为“看来人工智能领域的大规模成功———创造出人类级别乃至更高的智能———将会改变大多数人的生活,我们工作和娱乐的真正本质将会被改变。我们对于智能、意识和人类未来命运的观点也会如此。在此层次上,人工智能系统会对人类的自主性、自由乃至生存造成更为直接的威胁”[5]。换言之,当人工智能由弱人工智能阶段发展至强人工智能或超人工智能阶段5,法律职业群体将面临可能性困境。人工智能技术对法律职业群体的影响,“到底是不是‘狼’来的问题?”[6],对此进行详尽论述的必要性不言而喻。以法律人理性视角来看,应统筹考量、理性分析并客观看待人工智能时代法律职业群体所面对的困境。
(一)法律职业群体面临的现实性困境
一如我们所知,大数据储备是人工智能技术得以施展的基础,人工智能技术依托本身所“掌握”的大体量数据资源,并依托精准算法开展智能化服务。依此而论,服务于法律职业的人工智能技术通过输入条理性、系统化的法律条文知识及相关案情场景,为人工智能技术在法律职业领域的开展提供了可能,并深入影响着既定的法律职业生态体系。
从积极层面讲,人工智能技术在法律职业的运用,为法律职业领域工作的正常开展开辟了新思路,扩展了新视野,丰富了当事人多元选择新模式:如法律文件的自动化阅读、合同审查、分析,法律文书撰写,现场调查取证;特定领域用户注册E-Bay(中文电子湾、亿贝、易贝),运用Square Trade的ODR解决买卖纠纷;而俄罗斯联邦储蓄银行已引入法律服务机器人,以实现全部法律文本的自动化形成[6];在美国,世界第一个“机器人律师”已面世,并已在50个州正式上岗;2018年5月20日,中国法律服务网正式上线,可以对几类常见民事纠纷提供免费智能法律咨询服务。
从消极层面讲,人工智能科技由于自身大体量数据储存及复杂算法技术优势,在法院、检察院、律师等法律行业可替代人类开展相关法律业务。在此背景下,法律职业生态体系的重组可能成必然化趋势[8]。如美国的IBM Watson与Nextlaw Labs共同研发的ROSS系统可替代法律人从事更为复杂的法律研究工作。就此而言,纯从技术层面讲全面颠覆业已形成的人类法律职业生态体系不无可能。质言之,不合格的法律从业人员、初级法律从业者和即将从事法律职业的法学类大学毕业生将面临失业的现实性困境,对就业率本来就不高的法学毕业生更是雪上加霜6。尤其应引起注意的是,人工智能科技对人类伦理影响亦渐次呈现,如自动驾驶汽车在紧急情况下,是司机优先保护还是路人优先保护等在法律适用方面可能会出现的伦理悖论问题。
(二)法律职业面临的可能性困境
人工智能技术作为不断发展的颠覆性创新科技,依其发展阶段,可分为弱人工智能—强人工智能—超人工智能三个阶段。综合观之,目前人工智能尚处于第一阶段(弱人工智能阶段)。人工智能科技虽给法律职业带来适用性的便捷化,但法律职业群体所面临的现实性困境也不容忽视。如英国金融时报网2017年12月20日报道,人工智能技术已经造成法律行业约3.1万份工作流失,据预测,39%的法律业岗位是未来20年里可能被裁员的“高危”岗位7,借用脸书(Facebook)创始人扎克伯格所言,我们正在进入“算法”而不是法律统治人的时代8。
人工智能科技的发展突飞猛进,逐步从弱人工智能阶段向强人工智能阶段挺进,且已有突破。如无人驾驶系统、自动化武器装备系统已涉及自动化甚至自主决策能力,俨然已超出弱人工智能阶段,但尚未达到强人工智能阶段。值得注意的是,人类对人工智能在法律职业的运用若缺乏有效管控,法律职业群体将陷入可能性困境:第一,就人工智能技术发展阶段而言,强人工智能和超人工智能已不同于传统人造科技,依托自身大体量数据资源并经既有程序算法设定使其不仅拥有如人类般智慧,还可兼备超人类思维能力。人工智能类机器人将进一步替代法律职业人类从业人员,届时法律职业“人员”结构可能改变,法律职业群体将面临大面积失业可能性困境。第二,无论强人工智能或超人工智能,面对未知复杂环境、未知任务等多元情况下,统筹决策能力较弱,亦缺乏法律职业人员所具备的伦理道德感、羞耻荣辱心等。如“机器人法官”仅依靠大数据储备的实证案例和既有法律规范数据资源,如司法审判运用中,虽可做到根据既定法律规范并依“法”审判,但可否做到宽严相济?尤其涉及婚姻家庭事务,得否兼顾仁爱、情感、民本、正义等理念?法律行业或将陷入死板、机械化地套用法律规范的可能性困境。第三,根据人工智能阶段化特征,强人工智能或超人工智能类法官、检察官、律师等如若遍布法律职业领域,是否会面临如美国科幻电影《末日审判》场景:人类被人工智能类机器人审判并执行裁决,出现人类被人工智能机器人操纵的命运等。由上可知,在法律职业运用领域,如若对人工智能技术不加以适当管控,不仅会威胁法律职业群体生存环境,人类的生存和发展亦面临可能性困境。
三、人工智能时代在法律职业领域的应对措施:两个面向
尼古拉斯·卡尔曾指出“人工智能是历史悠久的人类工程学的最新发展”[9],人类所追求的技术进步目的在于为人类发展提供更加优质服务。换言之,人工智能技术虽在诸多领域已达到或者超过人类水平,在法律职业领域,是否会取代人类法律群体9?笔者认为,人工智能是以算法为技术支撑的科技,当前技术条件下在法律职业领域的适用中仅可对案件作出事实认定,并不能对案件行为进行较为复杂的价值判断。基于此,法律职业的正常有序发展不能被人工智能技术牵着牛鼻子走,应积极寻求并倡导人工智能技术在法律职业领域的合理运用。笔者认为可通过两个面向予以应对:法律职业群体的应对和人工智能技术在法律职业领域的有效管控。
(一)法律职业群体应对
在人工智能科技快速而又不可逆转的时代潮流下,可通过提高法律职业群体综合技能,凸显法律职业群体人文素养,重视法律职业群体的思维能力培养等方面积极应对。
1. 提高法律职业群体综合技能。
所谓“法与时转则治,治与世宜则有功”。法律职业群体面向人工智能科技在法律职业领域的广泛应用场景,欲达“与世宜”,必先“与时转”。现实中,人工智能科技业已涉足法律职业领域,如世界上第一个“机器人律师”,它以人工智能算法为技术支撑,依托自身程序所储存的大体量法律知识和法律专家级水平的理论学识以及经验的程序设计,只需输入案件事实等基本要素,即可得出可行性法律分析与建议,并且准确率和适用性已超出现有法律职业群体。在此背景下,法律职业群体如若适应人工智能技术在法律职业领域的运用,不但需具备扎实基本法律知识和法律职业技能,而且需熟练掌握人工智能技术。在我国已有很多法律实务专家开始涉足人工智能领域,并逐步精细掌握法律人工智能大数据分析技能。由此笔者认为,法律人应摒弃过去所固有的保守思维,以全新姿态积极投身人工智能产品在法律职业领域的开发和应用。法律职业群体可通过如下举措予以应对:第一,人工智能技术人才培养。法律人才除了法律职业技能外还需要具备何种技能,完全取决于时代需求[10]。人工智能时代,高精尖的人工智能科技不仅是人工智能科技人员基本技能素养所需,也是法律职业群体所需,通过掌握人工智能理论知识及操作技能,在法律实务应用中力争做到“人机合一”。第二,人机协同能力锻造。未来人类法律职业群体不仅需掌握人工智能技术基本操作技能,更为重要的是应做到案件处理的人机协同,可将人工智能技术羽化为法律职业群体的“长臂”,发挥各自优势,同人工智能机器人“取长补短”,为当事人提供更优的法律服务。如法律人依托人工智能机器人大体量储存功能可以提供精准化法律条文及“专家型”辅助,结合国家时代政策、经济水平、民族特征、伦理文化、道德情感等因素对案件进行逻辑分析、综合判断,做到公平、公正而又合理的司法裁决。第三,人工智能法律规制机制。人工智能为法律服务提供便捷的同时也伴有未知风险。对人工智能机器人进行有效法律规制,是法律职业人员需要掌握的技能。法律人参照法律职业标准要求,可通过参与人工智能产品在法律职业领域应用的开发和调配,以提前输入相应法律规则的方式,对其予以法律规制,使人工智能技术在法律职业的运用不逾矩。第四,高校或法律实务部门可开展线上公开课辅助线下课堂,或效仿谷歌的“机器学习忍者训练营”模式,加强法律职业人工智能科技人才培养。
2. 凸显法律职业群体人文精神塑造。
法学专业领域人才培养,“有必要重申法学教育的自由教育、人文教育的本性”[6]。目前,我国法学教育过于注重法学学科专业知识,忽视人文教育等软实力塑造,从法律职业资格考试(前身是国家司法考试)可见一斑:无论从考题设计或者是出题思路,更注重的是考生对于法律条文及相应知识掌握熟练程度,忽视人类情感、意志、信念性格、心理素养等法律职业软实力在题中的体现。司法实务中,实现公正、公平、合理的司法裁决不仅依托法律条文的准确运用,人文因素亦涵射其中。尤其是婚姻家庭等身份性案件,非一纸判决所断,更为重要的是需考量婚姻家庭伦理道德、情感维系等复杂因素,不能仅靠人工智能系统所获法律咨询意见得出裁判结果。在人工智能时代背景下,需认真考量人工智能科技在法学教育、法学研究领域所产生的影响,未来法学教育,不仅应注重法学专业知识能力培养,更为重要的是应注重学生人文素养等软实力塑造。
3. 重视法律职业群体法律思维能力培养。
所谓法律思维,是指遵循一定法律逻辑,可以是法律的规范或法律原则和精神等媒介,进行系统观察、理解并综合分析,最终以解决社会问题为目的的一种思维方式[12],缜密的法律思维是法律从业人员“认识、理解、应用、丰富和发展法律等多种能力的根基”[13]。法律思维作为法律职业群体特有的基本素养和能力,是评判法律从业人员综合能力高低的重要标尺,其中的重要性不言而喻。人工智能机器人依托自身大体量数据资源并凭借自身算法程序科技对相应案件可作出法律意见及分析,进而得出精准法律预测。但人类社会包括政治、经济、文化、伦理道德等复合因素,当法律实务专家同人工智能依靠大数据分析系统裁判结果相悖时,仅依靠机器人法官依据法律条文裁决案件,裁决结果的公正合理性实难令人信服。依此而论,法律思维能力作为法律人独特技能应引起足够重视,可通过加强和凸显在法学教育和法律职业技能培训中的比重予以解决。
4. 法学同自然科学技术的有效结合。
人工智能科技在法律职业的运用已是不争事实,并逐步应用于法律职业各领域,同传统法律职业境况大有不同。人工智能灵活性、智能性和个性化智能技术对重塑法学教育大有裨益,是未来我国法学教育发展的必然趋势,可进一步提升我国法学教学效果,以适应人工智能时代法律职业持续发展需要[14]。人工智能时代,法学教育已不可避免同自然科学技术存在交叉。在高校法学教育中如若依旧坚守法学学科城堡壁垒,忽视自然科技的影响,已然不能适应当前科技发展潮流。笔者提出此观点,并非以单纯追求法学同热点结合,而在于倡导学科间的交叉融合,正如法学教育中应重视实体法同程序法的交叉融合一样,在人工智能时代,理应重视法学同自然科技的结合。可在法学教育中开设自然科技基本课程,使法学专业了解在当下或将来在法律职业领域可能存在或适用的基本自然科技运行原理等。
(二)人工智能科技在法律职业领域的有效管控
人工智能科技从整体上讲对各行业的发展利大于弊,“但我们必须保证能够坚持尽最大可能降低风险并使利益最大化,若任由其发展不加以管控,人类的发展可能又使自己退回到原始的混沌之中”[15]。人工智能科技在法律职业领域的管控应同其创新性及便捷化优势同等视之[16]。笔者认为,人类不能故步自封于我们已取得的成就,面对人工智能给法律职业群体带来的现实性和可能性困境,必须认真检视,防患于未然。在以安全为首要原则前提下,可通过重视人工智能立法及法学研究的开展,确定人工智能法律客体地位,建构以人类权利为中心的人工智能伦理原则,实施人工智能在法律职业领域的登记制度等措施予以管控,有效应对人工智能技术对法律职业群体带来的可能性困境。
1. 人工智能在法律职业领域的运用应以安全为首要原则。
人工智能技术突飞猛进式的发展,为一些有远见的且已将其应用于法律服务行业的法律人和法律服务机构带来巨大的边际回报[17]。如全球最大的大成—德同(Dentons)律师事务所,该所于2016年创建了人工智能实验室Nextlaw Labs(www.nextlawlabs.com)进行开发研究,并与美国知名软件开发公司IBM公司所属的沃森(Watson)技术服务平台合作开发出法律人工智能产品,以“ROSS”命名,并已投入数家国际性律师事务所测试使用。从人工智能技术发展趋势考量,如果人工智能技术在法律职业领域不加限制性使用,人工智能技术发展至一定阶段,其在法律职业领域运用脱离人类的管控,不无可能。可以想象:随着人工智能技术迭代升级,在人工智能机器人掌握自我学习能力前提下,可以制造出比自己更为先进的智能产品[18],以此适用于法律服务行业,给法律职业生态体现所带来的冲击,可能会超出人类的既有认知。时至今日,在法律职业领域人工智能技术业已超越研究和学术范畴,并步入实际运用,正如“智慧检务系统”“ROSS”等的出现,其应用的广度和深度远不止于此。人工智能科技依靠自身软件系统进行数据收集,并对数据分析处理的系统程序,其中可能涉及个人隐私类数据。由于软件系统在开发、检测、应用等各阶段在技术层面讲可能会存在数据漏洞,进而对人类隐私安全构成威胁,运用到法律事务中对当事人合法权益造成威胁,亦有可能。因此,人工智能产品在法律职业领域开发抑或调配及数据库的建设等方面,需以安全为首要原则。
2. 明确人工智能产品在法律职业领域的法律客体定位。
从学理分析,人与物二分法是民法范畴基本分类[19],如何框定人工智能产品法律定位,这或许是人工智能时代人类所必须面临的一项重大法律问题10,可通过结合人工智能自身工具性属性,从人类研发人工智能科技产品价值取向分析,自然可得出人工智能科技产品为人类服务的意旨[20]。早前,劳伦斯·索伦关于人工智能产品的法律地位问题,给出了自己的答案,即一则定位于受托人,二则使其拥有宪法人格权[21]。再如美国纽约州法院曾指出,计算机编程并无法让计算机本身做判断,而仅是依赖计算机所赋予的人类强制指令行事[22]。有学者所言,“当前思考这个问题并不过于超前”[15],就人工智能产品的法律地位问题,杨立新教授认为,“人工智能机器人为人工类人格的实质是仍将其认定为物”[24]。孙伟平教授认为,“从存在论、认识论以及价值论的视角都得出了同样的结论,即人工智能难以获得真正的主体地位”[25]。李龙教授认为,“人工智能(即AI)不是法律主体的讨论,是AI作为客观存在进入和体现在法学、法律中的起点”[26]。龙文懋教授认为,“法律是以人类为规制对象、经过长期实践发展起来的,它天然不适用于人工智能,并无将人工智能拟制为法律主体的必要,也无可操作性”[27]。吴习彧认为,“机器不适宜成为法律主体”[28]。郑志峰认为,“如果赋予人工智能主体地位则会对享有的法律设定形成挑战”11。郭少飞认为,“人工智能具有自主性、主动性,已非纯受支配之客体,在法律上应设定为‘电子人’”[29]。
虽然不同学者从不同视域来界定人工智能产品的法律地位,但基本形成共识:第一,人工智能产品在法律上定位是物,不属于法律主体探讨范围;第二,人工智能产品只能限定在“工具性”范畴讨论;第三,人工智能产品若是被赋予法律主体地位会对现行法律形成挑战,并可能威胁人类生存空间。笔者认为,人工智能技术产品应以服务人类为中心,在法律职业领域,无论其发展处于何种阶段,在其法律职业适用中始终不能摆脱其工具性或物的窠臼,其法律客体属性不容突破。
3. 法律职业领域的运用应建构以人类权利为中心的人工智能伦理原则。
基于人工智能对人类社会生产生活各领域所产生的影响,人类与人工智能共处已是不争的事实。因此,追求人类与人工智能的和谐可谓“人工智能时代的终极价值追求”[30],在人类研发并不断促进人工智能发展的同时,人工智能也在不自知地挑战人类伦理道德底线。诚如图灵(Alan Mathison Turing)在《智能机器》中所述,相比人工智能技术的快速发展,对伦理制约研究的滞后性更让人担忧。在联合国教科文组织与世界科学知识与技术伦理委员会联合报告中,主要讨论了机器人的制造和使用促进了人工智能的进步,以及这些进步所带来的社会与伦理道德问题[31]。“比如随着生物技术、智能技术的综合发展,人的自然身体正在被修补、改造,人所独有的情感、创造性正在为智能机器获得,人机互补、人机互动、人机协同、人机一体成为时代发展的趋势”[32]。再如现在的“抖音”和“今日头条”正在用非常高明的互联网人工智能技术,把我们训练成一个“花剌子模国王”12等。人工智能伦理问题引起国内学者普遍关注,理论研究成果丰硕13,普遍认为:人工智能发展带来伦理问题,其发展无论到哪个阶段都不能违背人类伦理观。就此而言,人工智能科技在社会生产生活中的应用须防患于未然,从注重制度构造、技术运用、人员培训等角度出发做到同人类伦理道德相匹配。笔者认为,人工智能作为人类改革性技术成果,应以“人”为中心,以尊重人类权利、人格尊严、人类伦理道德为基础。遵从人类基本权利不仅可以激发人类新的、具体的监管措施,也能够为人工智能系统的研发、使用和实施提供基本原理指导。以人类权利为中心制定人工智能伦理原则,不仅适用法律职业领域,而且需广泛普及,人工智能伦理规则的制定可带来限制监管不确定性的额外好处。为此,可采取如下具体措施:第一,在法律职业领域人工智能科技产品的应用者可要求人工智能系统组织者、研发者、技术实施者或供应链中另一方提供为人工智能决策所输入不违背人类伦理道德基线参数和指令的证据,或如达维律师事务所(Davis,Polk和Wardwell)那般设立专门机构,在人工智能领域参与资料数据库建设和人工智能产品投资、开发和调配,使法律人所使用的人工智能产品遵循人类基本伦理道德。第二,对人工智能产品设计及使用者进行必要伦理道德培训,注重人工智能产品整个使用过程监管,研发者和操作者需要确保个人和少数群体免于偏见、侮辱和歧视,谨防出现违背人类伦理道德行为,遵守高标准问责制,保证人工智能产品在法律职业领域适用的伦理性。第三,人工智能为人们提供法律服务所依靠的数据资料,在收集、存储、使用过程中不能违背人类伦理道德。第四,人工智能系统在设计上应该保护人类在社会和工作中的尊严、正直、自由、隐私、安全等,不应威胁社会民主、言论自由、身份自由或拒绝人工智能服务的可能性。第五,人工智能科技产品的设计和研发者应当采取预防措施,使人工智能系统从技术角度来看足够稳定,以保证适用于法律职业领域中即使在遵从伦理道德目标的前提下人工智能系统仍然不会造成无意间的伤害,对于违背伦理道德的人工智能设计者、生产者及使用者采用结果主义原则等。
4. 法律职业领域的适用应建立人工智能产品登记制度。
以智能(无人)驾驶为例,如2016年1月,中国23岁男青年驾驶着自己的特斯拉轿车在“自动驾驶”模式下与一辆道路清扫车发生追尾,导致车主身亡14,2016年5月8日,美国一辆特斯拉电动汽车在“自动驾驶”模式下同一辆大货车相撞,导致一死一伤15等事故,我们应始终牢记:发展和使用人工智能不应被仅仅当作一种手段,而是应以增进人类福祉为目的,法律职业应用领域也是一样。对于人工智能设计者、生产者及使用者应以结果主义为原则,为便于识别,政府应适度监管,在法律职业领域引用人工智能产品时应参照“图灵登记本”[28],建立人工智能产品登记制度。登记目的并非赋予人工智能主体资格地位,亦非便于财产公示,而在于方便对人工智能产品进行追踪、分级管理和责任机制的落实,并“可以减少人工智能开发的时间成本和管理成本”[34]。
5. 在法律职业领域注重人工智能立法及法学研究。
正所谓“不谋万世者,不足以谋一时”。法学理论研究应关切现实,积极回应人工智能新兴科技给法律职业群体带来的困境,为国家立法完善工作提供有力的理论支撑16,而立法工作在社会公共管理中通常处于核心地位,事关国家资源配置及相应权利和义务的分配,其地位可谓举足轻重[35]。如我国目前的人工智能立法在电子商务、数据安全和智能投顾等领域已有体现[36]。在2019年全国两会期间,“人工智能+”高调抢镜,全国人大常委会已将与人工智能相关的立法项目列入立法规划,并通过立法回应社会关切:如自动驾驶汽车依靠自身传感器收集周边一定半径范围内的数据运转,收集的数据可能会对人类隐私构成威胁;保护避免人工智能技术不当使用,不违背其造福人类的初衷;为人工智能研发、制造提供规范;为人工智能法学研究提供政策导向;建立人类对人工智能的信赖等。笔者认为,及时规划人工智能立法,应以“人”为中心,有效保证人工智能技术健康、良性发展。
无论立法或法学研究均须遵循人工智能自身特点,取长避短。如人工智能技术的发展主要依赖大数据分析,通过收集、分析大数据也会增加数据不当使用和泄露等风险。再如据英国广播公司(BBC)报道,IBM近日被指在未经用户同意的情况下,在图片分享网站Flickr上获取了大约100万张照片,用于训练其人脸识别算法,很多用户隐私已在不知不觉中被侵犯了[37]。因此,在立法和法学研究中应关注数据使用和个人隐私保护,同时人工智能发展带来的伦理影响和冲突在立法和法学研究中亦应高度重视,这也是应对人工智能技术对法律职业造成可能性困境的有效举措。
四、延伸思考:人工智能时代法律职业的未来
人工智能技术助推行业革新,但我们深知:创新虽为人类天性,但新兴科技难以全然顺从创始人原始意旨,意料之外和歪打正着无不可能,应衡酌人工智能系统设计动机、过程、效果等系统解构,理性分析并认真拷问人工智能技术发展对人类发展的益弊。
在智能发展引擎驱动下,人工智能时代背景下的法律职业,“法律的人工智能化可能遍及立法的人工智能化、司法的人工智能化、执法的人工智能化等领域”[38]。我们应审慎认知法律人工智能的(人工智能在法律职业运用)长期性和艰巨性,秉持人类理性思维,协同人工智能同具体场景结合,促使人工智能价值契合人类需求,合理展望法律职业未来。
1.法律职业群体要适应人工智能发展趋势。“法律机器人”业已面世,在法律职业应用中便捷性体现明显:通过程序设置可准确分析大体量数据,使法律职业人员摆脱简单的、程式化的、重复性的繁琐工作,投入更多精力在有价值的法律事务上。为满足人工智能技术在法律职业领域的应用,在保护数据信息安全使用前提下,人工智能技术进步可有效促进法律职业技术改革,应将人工智能技术更多运用在法律职业辅助性工作,如人工智能技术辅助法律人进行法律规范及判例的搜寻和研究分析工作,进而得出适用本案的“诉讼对策”。
2.法律职业群体应遵循法律职业自身规律。法律职业在社会广泛职业领域中,准入门槛相对较高,可谓社会各行业中的“塔尖行业”。法律职业不但要求高标准的专业性,而且应用性强及素质复合兼具,主要包括:法律分析和论证,事实调查,同当事人的口头和书面沟通、谈判等[39]。换言之,法律职业不仅需具备运用法律专业知识,更为重要的是理性在法律服务工作中的运用,比如口头或者书面沟通、谈判协商、综合分析法律困境等。诸多法律纠纷竞相套用法律规范,结果难谓公平、公正、合理。所以,理性为人类所特有,在处理复杂法律纠纷、身份关系、伦理道德等领域,人工智能技术尚付阙如。但人工智能技术在处理、分析大体量数据等简单化、程式化及重复性繁琐工作优势明显。可考虑廓清法律职业同人工智能在法律应用领域边界,对其“二元划分”:将法律人工智能定位于法律职业人员的助手和参谋,适用领域并非无所不包,比如人工智能可适用信息客观性强、事实清楚、证据充分、案情简单等民商事财产类案件;对于复杂民商事、刑事、行政等案件,由法律职业人员操持。即将人类法律职业范围同人工智能进行合理分配,做到“人类决策、AI辅助”,协同发展。
五、结语
尽管人工智能科技迭代升级迅猛,但人工智能并不能完全取代人类智能,而是体现并延伸了人类智能[39]。人工智能在法律职业领域的发展与运用亦是人类智能体现,它为法律职业带来的便捷化程度尤为明显。但必须注意的是,人工智能技术可能为法律职业带来现实性和可能性困境。可通过法律职业人员自身努力及对人工智能有效管控举措,实现法律职业同人工智能协同发展。但最为关键的是立法先行。由此,我国于2019年“两会”期间,全国人大常委会已将与人工智能相关的立法项目列入立法规划。
展望未来,法律职业群体将何去何从?人工智能可否取代法律职业群体?这些都是亟需面对并解决的问题。诚如有学者所言,生物意义上的人历经千百年方从原始的混沌中脱离开来,人类不会再因人工智能科技的发展而使自己退回到原始混沌中去[40]。法律职业群体在遵循法律职业发展规律边界前提下,应协调法律职业人员同人工智能技术在法律职业领域的不同适域。遵从上述思路,法律职业群体不仅可开启法律职业新思路,也可以扩展法律适用范围,丰富法律纠纷选择模式,为人类提供更加优质的法律服务,体现人工智能技术在法律行业运用的旨趣。
参考文献
[1]John McCarthy. What is Artificial Intelligence?[EB/OL].http://www-formal.stanford.edu/jmc/whatisai/node1.html,2007-11-12.
[2]Scherer M.U. Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies[J]. Harvard Journal of law Technology,2016(2).
[3]侯浩翔,钟婉娟.人工智能视阈下教育治理的技术功用与困境突破[J].电化教育研究,2019(4):37-44.
[4]林少伟.人工智能对公司法的影响:挑战与应对[J].华东政法大学学报,2018(3):61-71.
[5]【美】拉塞尔,诺维格.人工智能:一种现代的方法(第3版)[M].殷建平,等译.北京:清华大学出版社,2013:878.
[6][7][11]张建文.人工智能技术的发展对法学教育的影响与应对[J].北京航空航天大学学报(社会科学版),2018(3):25-26.
[8]盛学军,邹越.智能机器人法官:还有多少可能和不可能[J].现代法学,2018(4):74-82.
[9]【美】尼古拉斯·卡尔.玻璃笼子:自动化时代和我们的未来[M].杨柳,译.北京:中信出版集团,2015:179.
[10]王竹立.技术是如何改变教育的?———兼论人工智能对教育的影响[J].电化教育研究,2018(4):5-11.
[12]郑成良.论法治理念与法律思维[J].吉林大学社会科学学报,2000(4):3-11.
[13] 郝秀辉.法科学术法律思维培养问题探究[A].法学教育研究(第14卷)[C].北京:法律出版社,2016.
[14]杜静,黄荣怀.智能教育时代下人工智能伦理的内涵与建构原则[J].电化教育研究,2019(7):21-29.
[15][23]刘洪华.论人工智能的法律地位[J].政治与法律,2019(1):11-21.
[16]Sofia Ranchordas. Innovation-Friendly Regulation:The Sunset of Regulation,the Sunrise of Innovation[M]. Social Science Electronic Publishing,2015.
[17]郑戈.人工智能与法律的未来[J].探索与争鸣,2017(10):11-15.
[18]Dirk Helbing. Societal,Economic,Ethical and Legal Challenges of the Digital Revolution:From Big data to Deep Learning,Artificial Intelligence,and Manipulative Technologies[J].Social Science Electronic Publishing,2015(4).
[19]杨立新.民事责任在人工智能发展风险管控中的作用[J].法学杂志,2019(2):25-35.
[20]杨清望,张磊.论人工智能的拟制法律人格[J].湖南科技大学学报(社会科学版),2018(6):91-97.
[21]Solum B. Solum. Legal personhood for Artificial Intelligences[J].Social Science Electronic Publishing,2008(3).
[22]郭少飞.“电子人”法律主体论[J].东方法学,2018(3):38-49.
[24]杨立新.用现行民法规则解决人工智能法律调整问题的尝试[J].中州学刊,2018(7):40-49.
[25]孙伟平,戴益斌.关于人工智能主体地位的哲学思考[J].社会科学战线,2018(7):16-22.
[26]朱程斌,李龙.人工智能作为法律拟制物无法拥有生物人的专属性[J].上海交通大学学报(哲学社会科学版),2018(6):55-63.
[27]龙文懋.人工智能法律主体地位的法哲学思考[J].法律科学(西北政法大学学报),2018(5):24-31.
[28][33]吴习彧.论人工智能的法律主体资格[J].浙江社会科学,2018(6):60-67.
[29] 郭少飞.“电子人”法律主体论[J].东方法学,2018(3):38-49.
[30]吴汉东.人工智能时代的制度安排与法律规制[J],法律科学(西北政法大学学报),2017(5):128-136.
[31] Danit Gal.联合国的人工智能政策[EB/OL].孙那,李金磊,译.http://www.sohu.com/a/132199558_556637,2019-03-10.
[32]孙伟平.关于人工智能的价值反思[J].哲学研究,2017(10):120-126.
[34] 岳彩申,耿志强.人工智能开发的法律规制对象、目标及措施[A].岳彩申,侯东德.人工智能法学研究[C].北京:社会科学文献出版社,2018:140.
[35]钱大军,孙航.人工智能视阈下我国立法决策模式之转变[J].湖南科技大学学报(社会科学版),2018(6):70-81.
[36]汪庆华.人工智能的法律规制路径:一个框架性讨论[J].现代法学,2019(2):54-63.
[37]江耘.别把个人隐私不知不觉“喂”给人工智能[N].科技日报,2019-03-25.
[38]张清,张蓉.“人工智能+法律”发展的两个面向[J].求是学刊,2018(4):97-107.
[39]陈实.困境与出路:论法律职业技能教育的实现[A].刘仁山.法学教育反思录[C].北京:北京大学出版社,2011:36.
[40]徐献军.人工智能的极限与未来[J].自然辩证法通讯,2018(1):27-32.
注释
1《准备》阐释人工智能发展现状、应用领域及潜在公共政策问题;《计划》提出美国优先发展人工智能的战略发现和建议;《报告》称,美国国防部在2019年,让人工智能真正成为现实,并详细介绍了美国在人工智能上的最新战略进展、俄罗斯和中国在人工智能策略上的发展与弱点、AI技术上的重大突破及美国国防部如何应对日益凸显的AI伦理问题等最新重要议题。
2“草案”首先是AI的开发、部署和使用应以人为中心,须反应公民的福利、无害、人类自主、争议和可解释性等社会价值观和道德原则;其次是评估AI对人类及其共同利益的可能影响,尤其需要注意儿童、残障人士和少数群体等弱势群体的情况;最后是人们需要承认并意识到人工智能在为个人和社会带来实质性好处的同时也可能产生负面影响,人们需要“对严重关切的领域保持警惕”。http://www.sohu.com/a/290213700_99906238,访问时间2019年3月1日。
3《规划》明确了我国新一代人工智能发展的战略目标:到2020年人工智能总体技术和应用与世界先进水平同步;到2025年人工智能基础理论实现重大突破、技术与应用部分达到世界领先水平,智能社会建设取得积极进展;到2030年人工智能理论、技术与应用总体达到世界领先水平,成为世界主要人工智能创新中心。http://www.gov.cn/xinwen/2017-07/20/content_5212122.htm,访问时间2019年3月1日。
4会议指出,促进人工智能和实体经济深度融合,要把握新一代人工智能发展的特点,坚持以市场需求为导向,以产业应用为目标,深化改革创新,优化制度环境,激发企业创新活力和内生动力,结合不同行业、不同区域特点,探索创新成果应用转化的路径和方法,构建数据驱动、人机协同、跨界融合、共创分享的智能经济形态。转引自“学习强国”学习平台,2019年3月19日。
5参见杨立新:《民事责任在人工智能发展风险管控中的作用》,载《法学杂志》2019年第2期。文章指出人工智能分为三个层次,即作为工具的弱人工智能、具有自主意识类似于人的强人工智能、超越人类的超人工智能。
6麦克斯研究院发布的《2018年中国大学生就业报告》中指出法学专业就业红牌专业,就业率为85.3%,各专业就业率排名最低,http://www.sohu.com/a/237381354_368935,访问时间2019年3月10日;2019年6月12日,第三方社会调查机构麦可思研究院近日在北京发布的《2019年中国大学生就业报告》(就业蓝皮书)显示,报告解释,红牌专业指失业量较大,就业率、薪资和就业满意度综合较低的专业,2019年本科就业红牌专业包括:历史学、音乐表演、法学连续三届被亮红牌。
7http:/www.xinhuanet.com//wo rld/2017-12/19/c_129769742.htm,访问时间2019年3月20日。
8Michael Rundle.Zuckerberg:Telepathy is the Fu-ture of Facebook.Wired UK,July 1,2015.http://www.wired.co.uk/article/facebook-zuckerberg-qa-the-future.访问时间2019年3月14日。
92019年3月28日,左卫民教授在西南政法大学“西政人工智能法学院---北京德恒(重庆)律所应用法学大讲堂(第一期)”中转述梁慧星先生关于人工智能机器人在法律行业的运用评述:“机器人不会吃饭,不会谈恋爱,何以裁判人间烟火?”
10文中着名物理学家霍金表示:“人工智能或许不但是人类历史上最大的事件,且还有可能是最后的事件”,“人工智能的全面发展可能导致人类的灭绝”。参见孙伟平:《关于人工智能的价值反思》,载《哲学研究》2017年第10期。
112019年3月19日,西南政法大学教师郑志峰参加中国电子信息产业发展研究院组织的“人工智能伦理”专家座谈会上如是说。
12何家盐:《比抖音让我们堕落更可怕的是今日头条让我们变傻》,载“数据法盟”公众号,访问时间2019年3月24日。转引自王小波杂文《花剌子模信使问题》:“据野史记载,中亚古国花剌子模有一古怪的风俗,凡是给君王带来好消息的信使,就会得到提升,给君王带来坏消息的人则会被送去喂老虎。于是将帅出征在外,凡麾下将士有功,就派他们给君王送好消息,以使他们得到提升;有罪,则派去送坏消息,顺便给国王的老虎送去食物。”
13于雪、王前:《“机器伦理”思想的价值与局限性》,载《伦理学研究》2016年第4期;孙伟平:《人工智能导致的伦理冲突与伦理规制》,载《教学与研究》2018年第8期;闫坤如、马少卿:《人工智能伦理问题及其规约之径》,载《东北大学学报(社会科学版)》2018年第4期;王军:《人工智能的伦理问题:挑战与应对》,载《伦理学研究》2018年第4期;罗定生、吴玺宏:《浅谈智能护理机器人的伦理问题》,载《科学与社会》2018年第1期;任晓明、王东浩:《机器人的当代发展及其伦理问题初探》,载《自然辩证法研究》2013年第6期;等等。
14http://auto.ifeng.com/quanmeiti/20180228/1 141192.shtml,访问时间2019年3月20日。
15https://baike.sogou.com/v174078373.htm?from Title=5%C2%B78%E7%BE%8E%E5%9B%BD%E7%89%B9%E6%96%AF%E6%8B%89%E5%AE%89%E5%85%A8%E4%BA%8B%E6%95%85,访问时间2019年3月20日。
16学者关于人工智能类法学研究成果颇丰。王利明:《人工智能时代对民法学的新挑战》,载《东方法学》,2018年第3期;杨立新:《民事责任在人工智能发展风险管控中的作用》,载《法学杂志》,2019年第2期;刘云生:《人工智能的民法定位》,载《深圳特区报》,2017年10月24日;冯象:《我是阿尔法:论法和人工智能》,中国政法大学出版社2017年版;[以]尤瓦尔·赫拉利:《未来简史:从智人到智神》,林俊宏译,中信出版社2017年版,等等。2018年11月,北京航空航天大学承办的“中国科学技术法学会2018年年会”,围绕人工智能法律问题进行深入研讨;中国电子信息产业发展研究院于2019年3月19日召开“人工智能伦理”专家座谈会,等等。
我国法律人工智能在发展的过程中,面临人的因素、技术因素、法律滞后等诸多难题,其中大量复合型人才的培养是突破困境、解决问题的关键。我们应立足我国实际,借鉴西方国家的先进经验,切实解决好实践中存在的问题,逐步打造符合我国国情的法律人工智能系统。...
面对人工智能在刑事司法领域高歌猛进的态势,难免引发人们对智能办案系统分割甚至架空司法裁判权的隐忧,“法庭正暗地里将做出裁判的权力托付给没有政治合法性的外人。...
本文从目前法律职业道德教育较弱的原因及影响分析着手, 提出提高大学法学教育中法律职业道德教育的有效途径。...