美国首席大法官罗伯特（John Robert）在参加一次活动时，有人问他能否预见“智能机器协助法庭发现事实，甚至协助法官作出司法裁决”的时代，他回应说：“这已经是今天的事实。”
人工智能（简称AI）司法的兴起，与AI技术的创新发展、突飞猛进密切相关；更与世界各国的法律制度、司法实践密切相关。
在技术上，AI首先在美国诞生，更在美国快速发展，故美国对AI司法更为包容、开放；美国司法也对社会公众的批评和使用AI对司法判决的预测更包容开放。而以德国、法国为代表的欧洲，由于与美国属于不同的法系，法律制度、司法运行模式相差较大，社会公众对AI司法出现的安全风险、错误的容忍度更低，批评监督的程度更高，故德法等大陆法系国家在对AI审判的价值取向、法律制度和风险控制等方面存在较大不同。我国运用AI辅助审判的司法实践虽然时间上比美国、英国等国家更晚，但由于制度体制优势，我国司法运用AI辅助审判的起点更高，运用范围更广，所取得的司法效果也更佳。
英美法系：AI司法应用广泛
1946年2月，美国宾夕法尼亚大学研制出人类历史上真正意义的第一台电子计算机，其应用领域从最初的军事科研应用迅速扩展到社会的各个领域。
互联网也始于1969年美国的阿帕网。AI也最早在美国司法得到运用，美国诸多州法院早在20世纪即开始将人工智能技术广泛用于刑事案件量刑。美国在制定《刑事案件量刑指南》过程中，针对每个罪名收集了5万份案例分析研究后确定量刑标准。在这之后，英国也将电脑量刑引入刑事审判并在高等法院推广。
美国于1998年开发了COMPAS软件，并被运用于司法，作为法院量刑和是否准许被告人取保候审、假释的人工智能预测工具。运用该软件的法院会针对被告人或罪犯对软件预先设定的137个问题的回答开展预测，以此评估其再犯的风险。该软件被美国诸多州法院采用。
有研究表明，该软件的总体再犯预测准确率为65.1%。PSA和LSI-R亦是美国诸多法院经常使用的风险评估软件。目前美国已有一半以上的州法院使用上述软件来辅助法官量刑。
与此同时，AI还被美国司法广泛地运用于辅助科学证据可采性的审查判断以及审前程序等诸多方面。在审前程序中，法官借助AI对专家证言等证据的可采性进行评估。华东政法大学学者陈邦达认为，由于法官大多是科学技术的外行，人工智能恰恰可以弥补法官在此方面的不足。
2013年，美国法院在审理威斯康星州诉卢米斯（Wisconsin v．EricLoomis）一案中，采信了威斯康星州惩戒署向法院提供的一份包括“COMPAS风险评估”在内的判刑前调查报告，法庭根据该报告判处卢米斯6年有期徒刑和5年的延期监督。卢米斯认为，法院依据COMPAS评估报告对其判刑侵犯了其正当程序权利，对法院的判决不服上诉。结果，被威斯康星州上诉法院和最高法院驳回。法院认为：在评测中所用信息的准确性已经得到验证；评估报告不是法院作出决定的唯一依据；法院即使考虑了“COMPAS评估”因素，仍然足以进行个别化裁判，因为法官有相应的辨别力。
美国首席大法官罗伯特（JohnRobert）在参加一次活动时，有人问他能否预见“智能机器协助法庭发现事实，甚至协助法官作出司法裁决”的时代，他回应说：“这已经是今天的事实。”
美国AI审判：学界的担忧
美国司法系统广泛运用AI的情况引发国内外诸多学者的关注。尤其是上述卢米斯一案更加引发学界的关注，ProPublica发布的调查表明，COMPAS系统存在严重的种族偏见。学者们认为，在核心算法的研发过程中，司法工作人员可能会提供司法专业方面的意见，但其实质仍然是由技术研发人员主导核心算法的设计，而这些技术研发人员极有可能将个人的偏见嵌入算法之中。比如黑人犯罪者通过COMPAS算法评估后，被认为未来再犯的可能性更大，而被赋予更高的风险等级，而实际上，这些黑人并没有再次犯罪。
美国哥伦比亚大学法学院教授李本（Benjamin L.Liebman）认为，在刑事诉讼程序中，算法已经被大量运用于预测被告人是否存在再次犯罪和在开庭日能否出庭等可能性，并影响法官对被告人的量刑及是否允许被告人获得保释、假释。美国司法界希望在AI的帮助下通过更精确的风险评估来降低羁押率。另一些州则直接使用并依靠人工智能软件作出量刑。
此种做法引发美国法学界的诸多质疑和担忧。一是准确性问题：有研究显示，在被算法预测的未来两年内将实施暴力犯罪的人中，仅有20%的人实施了暴力犯罪。二是社会问题：算法在预测评估时会考量被告人及其亲属的生活环境、受教育程度、收入情况、违法记录等情况，形成一种压制贫困者的体制。美国虽然不允许开发者在人工智能软件、算法和模型中明确写入种族等因素，但因上述诸多因素客观上与种族相互关联，故客观上容易引发种族歧视。学者布里森（Joanna Bryson）强调，即使最为尖端的人工智能也会继承它们所录入的种族和性别歧视信息。ProPublica机构公开的文章显示，广泛使用的软件评估黑人被告人的累犯率是白人的两倍。三是正当程序问题：负责设计上述人工智能的公司拒绝公开它们的算法以及这些算法所考量的要素，被告人及其辩护律师无从了解这些算法是如何设计的，客观上形成了评估的“黑箱”。四是系统性错误风险问题：人工智能医生Watson在2018年被曝出给多名癌症患者开错药方，美国亚马逊公司的人脸识别软件也将多名国会议员错误识别为罪犯。人工智能一旦出现漏洞就易发生系统性错误，造成批量的重大错误。五是对现有司法制度造成冲击风险。实践中，诸多法院采用的人工智能系统一致，当事人对一审不服，上诉到二审法院，二审法院若采用同样的人工智能算法，其结果自然相同，如此则使上诉制度失去存在价值。
正因为人工智能在司法中的广泛运用和存在的风险，近期美国国会密集引入了《透明自动化治理法案》《全球技术领导法案》《人工智能披露法案》《国家人工智能委员会法案》，其目的不言而喻。
贝克在《风险社会》中指出：“任何新兴技术的诞生与运用，在给人们带来机遇与便利的同时，也可能产生风险与制造挑战。”刚刚获得2024年诺贝尔物理学奖的人工智能先驱杰弗里·欣顿亦承认，他于2023年从谷歌辞职，就为了畅所欲言地谈论这项技术的危险性。英国物理学家霍金甚至预言：“人工智能的发展可能意味着人类的灭亡。”
大陆法系：内宽外紧，严格适用法、德、日是大陆法系的最为重要的国家。法国法院系统内部可以通过人工智能审理案件，提升办案效率，并可以使用AI对案件结果进行预测，形成类案指引，保证类案类判。但对于法院外部力量是否可以采用人工智能来预测法院的判决，则不被允许。
法国于2019年3月颁布法律，明确规定，“法官和书记官的个人数据不能被用于评估、分析、比较或预测他们实际做出或将要做出的专业行为”，任何违反该条新规的人都可能被判入狱5年。该法的立法初衷本是为强化司法透明度。但因法官的判决与人工智能作出的司法预测存在较大差距而引发公众质疑，法官们普遍担心，人工智能对司法判决的预测将对法官在个案中的自由心证形成压力，与法官依法独立行使司法权存在结构性矛盾。而且，在此过程中，法官们确实出现过AI预测与他们所作出的判决不一致的情况，由此引发舆论大哗，诸多媒体竞相报道，给法官审案带来巨大的压力，一些法官甚至因此要求判决书不予署名。故立法机关最终不得不对此问题采取折中处理，一方面要求法官办案，继续在裁判文书上署名；另一方面，严格要求拥有AI的公司和个人，不得使用AI对法院尚未作出的判决作出预测，以免误导公众。
法国总统马克龙认为，人工智能发展必须实现算法的透明化，方能保证法律的公平正义及提升“指引”的说服力。
此外，判决数据的完整性也是阻碍人工智能准确适用的重要原因。目前，法国司法部的官方网站Légifrance仅公布了不到1%的裁判文书，这些数据显然达不到“完整”的要求。
法国当下禁止人工智能指引裁判，主要是出于对人工智能技术不成熟的担心。法国民调机构奥多克萨研究所（Odoxa institute）最近为甲骨文云计算公司（Oracle）进行的一项调查结果显示，67%的法国人认为人工智能是一种威胁：“现在（持威胁论）的比例明显占多数。去年同期，只有53%的法国人持这种观点。”
基于人工智能存在的风险，德国对人工智能强化了规则治理。目前，网络上存在利用人工智能技术实施网络钓鱼、非法使用无人机、合成虚假信息、非法侵入计算机、“深度伪造”等违法犯罪问题，故德国于2019年加大了本国《网络安全法》的适用范围，要求相关软硬件供应商向主管当局报告涉及其产品的所有安全相关事项，确保关键基础设施的运行不受影响。新法律大幅增加了违规行为的处罚力度，将此前的5万至10万欧元罚款提升至最高可达违规公司全球总营业额的4%或2000万欧元罚款。
2023年11月，德国与法国、意大利就如何监管人工智能应用达成联合协议，对人工智能基础模型实行“强制性自我监管”，并强调监管的是人工智能应用，而不是技术本身。协议要求人工智能基础模型的开发人员必须定义模型卡，公布关于模型功能、能力限制等相关信息。如果在人工智能的应用中被查明有不当行为，将会受到严厉制裁。
日本AI司法：奋起直追
日本也是大陆法系国家。在日本法院，人工智能的运用主要是辅助法官进行审理或裁判。2006年，日本法院在督促支付程序上导入了“在线督促程序系统”。东京地方法院率先运用该系统，此后运用的区域范围逐步扩大，至2010年11月扩展到全国法院，每年处理的案件达9万件以上。2017年6月，日本内阁通过《未来投资战略2017》，宣布“为实现迅速且有效率的审判，从审判中的程序保障和情报安全的综合角度，参照国外的状况，迅速探讨在获得有关机关协助下立足于利用者立场推进审判程序等IT化的方案，并在本年度内得出结论”。2018年日本发布《迈向审判程序等IT化的总结:以3e实现为目标》的报告，提出IT化目标是从诉讼提起至终结的全面IT化。
对此，日本学者小林学坦陈：“AI化主要是辅助法官进行审理或判断，要实现AI法官则存在各种现实的障碍。目前，电话会议系统虽然得以广泛运用，但是电视会议系统几乎没有得到运用。”
日本学者青木孝之认为，从2009年5月起，日本刑事审判中导入了运用大数据的“审判员量刑检索系统”。“通过录入并检索与犯罪情节有关的基本量刑因素，使刑事裁判员在裁判时能够从视觉上把握同种类先例的量刑倾向”。该系统以案件的概要、凶器种类、被害程度、共犯有无、反省程度、被害人处罚情况等为数据基础，存储了2008年4月以来一审中裁判员裁判宣告犯罪嫌疑人有罪的所有案件。在寻找适合事例时输入相应项目，就可依数值和量刑分布图区别显示不同量刑件数，作为法官和裁判员裁判时的参考。
日本法官每人手上通常有200至300个案件要审理，加之民事诉讼内容复杂，可能适用的法律仅国内法就超8000件，有的案件还需要适用条例和外国法。
法官不可能完全熟练掌握这些法律，尤其是在医药、化学、建筑、IT、金融等相关专门领域，法令庞大且修改速度较快，要求法官全部熟练掌握根本不可能。故法官们期待能通过AI来作为辅助性审判工具。
日本前述学者认为，日本审判AI化，当前只能协助法官进行辅助性工作，若要扩大AI的运用范围，应当考虑通过人工智能导入“AI法官”，自主制作或宣告附有判决主文（结论）和理由的判决。但学者们亦担心，AI法官不能表明合议庭内不同法官的多个意见，不能基于确定的事件真相或尊重当事人之间的社会关系，故只能是在部分领域运用：基于当事人之间的合意选择或由AI进行仲裁，充当法官审案的前置程序。
欧盟法案：创新与安全的平衡
2019年4月，欧盟委员会颁布了由其人工智能高级专家组起草的《可信赖的人工智能伦理准则》，以期建立欧盟范围内以人为本、可信赖的人工智能伦理标准，并不断促进社会公众接受人工智能技术，进而合理应用人工智能技术。
2021年4月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，包括法国、德国在内的一些国家对法案文本表达异议，担忧法案对先进人工智能模型的严格监管将阻碍欧洲人工智能的发展。为了解决这些担忧，欧盟委员会在人工智能领域推出多项支持创新的措施，建立新的监管机构“人工智能办公室”负责该法案的实施。
2023年12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。2024年2月2日，欧盟27国代表投票一致支持《人工智能法案》文本，标志欧盟向立法监管人工智能迈出重要一步。欧盟内部市场委员蒂埃里·布雷东在社交媒体上发文说，27国一致支持这一法案，说明它们认可“谈判者在创新与安全之间找到了完美平衡”。
今年3月、5月，欧洲议会、欧盟理事会先后正式批准《人工智能法案》。该法案于今年8月1日正式生效。该法案是全球首部全面监管人工智能的法规，标志着欧盟在规范人工智能应用方面迈出重要一步。
该法案在适用范围、人工智能系统风险分级管理、通用人工智能模型管理、执法与处罚等方面，提出合规义务框架。该法案规定，聊天机器人等人工智能系统必须明确告知用户他们在与机器互动，人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能够被
检测为人工智能生成的内容。此外，该法案规定，禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。法案按照人工智能系统对用户和社会的潜在影响程度将其分为4类：不可接受风险类、高风险类、有限风险类、最小风险类。风险等级越高，管控越严格。对有违规行为的企业，欧盟最高将对其处以全球年营业额7%的罚款。
法案考虑到创新与安全的平衡，规定相关规则将分阶段实施，其中一些禁止性规则将在该法律通过六个月后生效，与通用人工智能模型相关的某些规则将从2025年起适用。
横看成岭侧成峰，远近高低各不同。仁者见仁智者见智，有赞许，有质疑。但世界各国的AI审判，一直在加速疾行！
（作者：何能高）