最高人民法院院长张军指出：“人工智能的发展给人类社会带来广泛而深刻的影响，这些影响既以新型案件的形式投射到司法审判工作中，也为司法审判工作提供了新的科技支撑。”
2024年8月，一名荷兰法官运用ChatGPT提供的关于太阳能电池板的使用寿命和电能价格的回答作为判决依据，引起了众多专家的关注，也引发了沸沸扬扬的争议，AI审判到底何去何从，引发各界思考。
荷兰：ChatGPT能精准算出电池板寿命吗？
近年来，AI在诸多行业和领域深受追捧；一些国家甚至将其视为高新技术的新挑战，国家发展的新赛道。杭州电子科技大学教授孔万增认为：“以人机、双向、价值对齐的形式去构建价值驱动的新人工智能范式，是AI界关注的新赛道。”在诸多人工智能中，ChatGPT更算得上是AI的佼佼者。发达国家的法院将其广泛作为司法审判的智能助手；然而，荷兰法官利用ChatGPT作为判决的重要工具和依据，却让不少人对于新技术的冲击产生了更多担心与争议。
据荷兰新闻网站“DutchNews”报道，奈梅亨的一名法官承认，其在审判案件时使用ChatGPT收集重要信息。该案涉及两名房屋相邻的房主，被告将房子加盖一层，增加了建筑的高度，作为被告的邻居，原告认为此举影响其太阳能电池板的发电效率，故向当地法院起诉，要求被告赔偿其经济损失。
本案争议的焦点在于被告的行为是否会影响到原告太阳能电池板的发电效率；如果存在客观影响，那么应当如何来计算原告的实际经济损失？
对此争议焦点，要科学、准确地作出裁判，有相当的难度。相信科学技术的荷兰法官认为，人工智能在此方面的计算，比普通人的计算更为精准，遂使用ChatGPT计算太阳能电池板的平均寿命以及平均电价，并将其写入判决。法院判决书公开承认：“法官部分基于ChatGPT估计：从2009年开始，太阳能电池板的平均寿命在25到30年。对于本案，我们将其定为27.5年。”判决书将法官和ChatGPT的计算和提供的答案写入判决。此外，法官还向ChatGPT询问了荷兰平均电价，并将其回答结果作为定案依据。
此判决书一公开，立即引发诸多专家学者和新闻媒体的关注。诸多专家对此纷纷发表自己的看法。
荷兰互联网专家亨克·艾斯抨击：“这太荒谬了，我们必须对每一个AI都持保留态度。因为专家对太阳能电池板的寿命存在分歧，有人说它们最长可以使用40年。”
“ChatGPT一无所知，它不是一个数据库。”荷兰AI专家雅诺·杜尔斯玛说，它只是“一个计算机系统，可以猜测句子中的下一个单词，仅此而已”。
荷兰一家网络安全公司相关负责人戴夫·马斯兰则表示，AI可以减少等待时间、简化流程，对法律系统有很大帮助，但必须彻底检查其使用过程和答案。他认为：“生成式人工智能仍处于起步阶段，‘幻觉’并不罕见。”
北京师范大学吴宗宪等学者认为，ChatGPT的运算是基于对大量数据的预学习，所涉及的数据存在数据来源不明问题，本质是算法黑箱，虚假或违法信息难以杜绝……存在多维度法律风险。西南政法大学陈煊、西北政法大学张夏恒等学者也认为，ChatGPT受到热捧的同时，也存在数据生存生成、滥用等风险。
北京理工大学程韵认为，以ChatGPT为代表的生成式人工智能引领了新一代智能科技革命，但其数据来源不合规、生成内容有误、出现虚假或违法信息、数据表泄露等风险应当有妥善的处置对策。
华东政法大学教授刘宪权则认为，以ChatGPT为代表的生成式人工智能的产生具有革命性和划时代的意义，必然导致社会生产力的新一轮爆发，进而决定生产关系发生重大改变，必须谨慎地对待其潜在的各种法律风险与挑战。其他一些法律专家则对ChatGPT持肯定意见：相对于相关领域的专家证人的测算，ChatGPT计算得更为精准，而且，ChatGPT不会像人类相关领域的专家那样，暗中收取一方当事人的贿赂，作出的司法鉴定更加公正、可信。
当然，如果ChatGPT出现漏洞，则可能引发系统性的风险。
哥伦比亚AI判案：谁应支付儿童治疗费用
其实，早在荷兰法官运用ChatGPT裁判之前，南美国家哥伦比亚的法官也曾更早地运用ChatGPT判案。
据《文汇报》、《法治周末》等媒体报道，2023年1月30日，哥伦比亚法官胡安在审理一起涉及孤独症儿童是否应该获得相应的医疗保障的案件中，也直接使用了ChatGPT这一软件。法官胡安向ChatGPT提问：“孤独症儿童是否可免除支付治疗费用？哥伦比亚宪法法院判例是否曾在类似案件中作出有利裁决？”
结果，ChatGPT回答：“是的，这是正确的。根据哥伦比亚法规，被诊断患有孤独症的未成年人可免除看诊治疗费用。”
根据ChatGPT的回答，胡安法官作出了判决：因患儿父母负担不起医疗费用，孩子的全部医疗费用和交通费用，由其医保公司支付。
胡安法官将其向ChatGPT提问以及ChatGPT提供的答案公开写到了判决书中，立即引发诸多媒体的关注，更被一些媒体称为全球“AI审判第一案”。
胡安法官表示，自己并非让AI取代法官作决定，而是节省起草判决书时间。胡安法官坚称，裁决过程中，自己“并没有停止作为法官的思考”。
对此，哥伦比亚最高法院法官奥克塔维奥·特杰罗表示，人工智能的横空出世引发了道德恐慌，人们担心程序或机器人将取代法官。他说：“我还没有用过ChatGPT，但将来会考虑使用。”
哥伦比亚罗萨里奥大学教授古提瑞兹对此持批判意见，他介绍，他本人也对ChatGPT提出相同问题，但却得到不同答案。他据此认为：“法官使用ChatGPT判决，既不负责任，也不道德，应该首先培养法官的数字素养。”
古提瑞兹的批判并非无的放矢。因为将AI引入司法活动的负面案例屡有发生，并非鲜见。
南京航空航天大学教授高志宏认为，ChatGPT方兴未艾，Sora生成式人工智能横空出世。生成式人工智能因其对社会生产生活诸多领域产生的颠覆性影响，已成为世界各国争相布局的新兴战略行业，但也带来了重大的风险挑战。其中既包括技术风险、伦理风险，还包括安全风险、法律风险，需要进行全方位创新。
巴西：出现谬误甚多的AI裁决
2023年11月，巴西国家司法委员会发现本国法院的法官罗德里格斯公开的一份裁决法律谬误甚多，遂要求其对此作出解释。罗德里格斯辩解说，他作出的这份裁决是由ChatGPT生成。错误地引用了巴西最高法院判例等错误，是因为人工智能的失误。他表示，作为法官，他的工作负担过于繁重，以致于无暇仔细审查这份AI生成的裁决。
而在巴西、美国等国，依赖AI工具的法官不胜枚举，故法学界诸多专家认为亟待制定新法对司法运用AI审案、破案进行监督；对律师提供的AI生成内容应高度警惕。
据路透社报道，美国曼哈顿地区法官P·Kevin Castel在2023年6月决定，责令律师Steven Schwartz、PeterLoDuca及其律师事务所Levidow和Levidow&Oberman支付总计5000美元的罚款，原因是这两位律师在向法院提交的一份诉讼文件中引用了由ChatGPT生成的6个虚构案例。法官认为律师们的行为存在恶意，构成“有意识的回避行为以及虚假和误导性陈述”。Levidow和Levidow&Oberman表示，其律师不同意法院关于他们“恶意行事”的观点：“我们犯了一个善意的错误，错在没有相信一项技术可以完全捏造案件。”
法官在制裁令中表示，律师使用人工智能“提供帮助”并没有“本质上的不当”，但律师道德规则应当“对律师施加把关作用，以确保他们提交文件的准确性。”法官还表示，在法院和航空公司质疑这些虚假案件是否存在后，律师们“继续支持这些虚假意见”。
有学者指出，法律文本与现实的距离，是ChatGPT无法逾越的。在适用法律时，法官会在生活事实与法律规范之间“目光往返”，并借助公序良俗、日常生活经验等进行思维建构，作出更合理的因果判断、价值选择。比如解读判例，ChatGPT做的是“比对”“刷题”，法官会做“提炼”“建构”，掌握判例背后的原理与要旨。当基于客观证据来定案的案件数量累积到一定程度，AI经过学习与训练，就能按照证据类型、数量进行概率测算，为法官断案提供基础，上海法院系统运行的刑事证据校正系统就是其中的良好范例。
AI司法需要制度来规范
德国哲学家马尔库塞在1964年的专著《工业社会的单一维度》中提出“科技异化”理论，认为科技发展为社会带来巨大的生产力和效率提升，但在现代社会中，这些技术往往被反过来用于支配人类。帕加洛在《法律与人工智能高级导论》中提出：“人工智能可能具有特定形式的犯罪人格，考虑到人工智能的灵活性，可塑造机器人和人工智能系统……人工智能犯罪新场景的唯一限制是人类的想象力。”正是因为人工智能对社会发展的巨大推动作用和存在的风险，人工智能在司法中尤其是在审判中的运用需要用制度来规范。
那么，AI司法未来该如何定位?
目前，以美国为代表的英美法系和以德国、法国为代表的大陆法系都在通过法律制度来确立人工智能的法律地位。我国《生成式人工智能服务管理暂行办法》第三条规定：“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”在我国司法领域，同样也应当确立并始终坚持这个原则：既鼓励创新、积极运用，又包容审慎。由于司法审判工作的复杂性和系统性，人工智能无论如何都无法完全取代法官。正如法甘(Frank Fagan)、莱夫莫尔(Saul Lev-more)等学者所言，法律实践最好的方案是人与机器合作；人具有判断复杂情形的优势，机器则具备计算的准确性。对于未来而言,应该发挥人与机器的各自专长，将二者结合。
在我国，司法实践必须坚持人工智能对审判工作的辅助性定位，并赋予用户自主决策权。
AI司法未来应如何确定发展之路
美国哲学家兰登·温纳认为，技术本身是中性的，技术的影响取决于社会的使用和设计选择。之江实验室数据枢纽与安全研究中心特聘专家韩定一认为：“中国有数据规模的优势。希望能凝聚各方力量，抓住历史机遇，把我们国家高质量的数据汇聚在一起。我相信我们有机会建成非常好的大模型。”韩定一的观点，道出了中国AI发展走安全发展道路的优势与信心。未来学家伯纳德·马尔认为，迄今为止，各国政府和立法人员一直在努力应对监管人工智能的挑战。今年，欧盟和中国通过了旨在限制人工智能造成伤害可能性的法律，包括将深度伪造定为犯罪。
我国网络安全法第二十一条规定：“网络运营者应当按照网络安全等级保护制度的要求，履行安全保护义务”。故审判工作要推动人工智能的运用和发展，要在安全的原则下，以人为本，减少法官、法官助理等人员的重复劳动，以科技向善，保护个人信息等合法权益为前提推动人工智能的发展和运用。要加强司法人工智能的基础设施建设和安全运维保障，加强司法数据分类分级管理，完善司法数据安全共享和应用模式，防范化解人工智能应用过程中的安全风险。
未来，AI司法应如何打破算法的“黑箱”效应？如何构建可信赖的AI系统，让技术为司法赋能？
AI要打破算法的“黑箱”效应，必须建立透明可信赖的算法公开和算法评估标准，构建公开公平透明的人工智能系统，取信于民。作为司法裁判的助手，AI必须以司法数据信息为基础，将裁判考量的重要因素公之于众。必须坚持人工智能研发、产品应用、服务运行的透明性，保障人工智能系统中的司法数据采集管理模式、法律语义认知过程、辅助裁判推定逻辑、司法服务互动机制等各个环节能够以可解释、可测试、可验证的方式接受相关责任主体的审查、评估和备案。司法人工智能产品和服务投入应用时，应当以便于理解的方式说明和标识相应的功能、性能与局限，确保其应用过程和结果可预期、可追溯、可信赖。
AI司法未来应如何消除歧视与偏见？
司法必须保证人工智能产品和服务无歧视、无偏见，不因技术介入、数据或模型偏差影响审判过程和结果的公正。同时要尊重不同利益诉求，根据司法需求公平提供合理可行方案，充分照顾特殊群体，使其在司法活动中获得必要帮助,实现智能化司法服务对各类用户的普适包容和机会均等，防止技术突破司法正义红线。
2019年，日本内阁发布“以人为中心的人工智能社会原则”，其目的在于确立人类利用AI目标在于造福人类，推动相关革新。今年4月，日本发布《AI运营商指南》，目的也在进一步促进运营商能安全、安心地利用AI。具体到司法实践中，若诉讼一方存在借助AI的优势情况，法官应当平衡双方当事人的权利义务，加大释法力度，强化依职权调查证据、鉴定，依法公正审理案件。
AI司法未来应如何提升质效？
人工智能与审判工作的融合，其目的在于精准服务法官判案，获得当事人和社会各界的认可。最高人民法院院长张军指出：“人工智能的发展给人类社会带来广泛而深刻的影响，这些影响既以新型案件的形式投射到司法审判工作中，也为司法审判工作提供了新的科技支撑。”有专家指出，当前国外一些国家AI引发的裁判错误及风险主要在于AI的智能化程度不足。一些法官、法官助理也认为，目前司法实践中运用的AI如果能提升其速度、效能，有效防止和纠正其运行中出现的低级错误、高级错误，其系统性的风险和错误则必然减少。
近期，之江实验室发起举办“之江圆桌会”，近百位科学家、企业家和投资家参加讨论，他们直面问题、碰撞交流、对话交锋、思考展望。
浙江省科技厅党组书记、之江实验室党委书记佟桂莉表示：“人工智能发展的时代浪潮正奔涌而来，我们绝不能缺席，必须抢占风口，善抓机遇，努力成为人工智能赛道上的冲锋者和领跑者。”复旦大学人工智能创新与产业研究院研究员徐盈辉认为，人工智能的发展应该是系统性的创新；高速度存储、海量存储等技术需要突破，要有系统性的架构思维，才能让我国的AI发展走得更远。
“面对当前的算力挑战，芯片企业的创新与突破，需要从体系架构、应用软件及芯片生态等多个维度进行。”摩尔线程创始人兼CEO张建中表示。
在我国法院，AI更应不断提升其供给能力和赋能效应，让技术为司法赋能。让人工智能为证据指引与审查、法律法规推送、类案推送、全案由裁判辅助、法律文书辅助生成、法律文书辅助审查等智能化应用提供便利,促进裁判尺度统一，保障司法公正，维护司法权威。
归根结底，AI司法未来应当如何打破国家壁垒，让AI为人类创造更多福祉。
人工智能的发展很难一枝独秀，其风险也难以一力独挡，面对隐藏在网络内外的犯罪、有组织的犯罪、跨国智能犯罪，必须加强国际交流合作，共同打击隐藏在网络上的犯罪。亦因如此，在2023年11月举办的首届全球人工智能安全峰会上，包括中国、美国、英国、德国等在内的28个国家一致认为，人工智能在改善人类福祉上存在着巨大潜能，但同时亦存在不可预知的潜在风险。与会国签署发表了《布莱切利宣言》，同意通过国际合作建立人工智能的监管方法，以法规监管等方式防范风险。我国应当在此基础上，加强与国际社会合作，有效打击有组织地操纵人工智能犯罪行为。
司法人工智能的制度完善离不开法律法规体系的完善。当前，两大法系都在加强人工智能立法，努力让人工智能更好地服务司法，服务社会。我国亦应当紧密结合我国人工智能产业发展、技术创新和法院运用等实际情况，加强人工智能的立法研究，加快推动我国出台人工智能法，为司法人工智能提供法律保障。
新华三集团高级副总裁张鹏认为，“要以务实的态度看待技术路线，兼顾当下和未来。”创新不可规划，应当在快速迭代中鼓励试错，努力实现追赶超越；创新不要狭隘，应当在承认差距中兼容并蓄让我们的AI发展大有可为。
我们相信，有国家政策的大力倡导，有国家法律的大力保障，有社会各界的持续努力，有国际社会的交流合作，AI审判，必将在时代的浪潮中，直挂云帆济沧海，为人类创造更多福祉。
（作者：何能高）