编者按
在科技日新月异的当下，人工智能热潮席卷各大前沿舞台，成为全社会瞩目的焦点。3月25日，博鳌亚洲论坛2025年年会开幕，AI位列四大核心议题之一。会上，中外嘉宾就AI应用与治理热烈探讨，达成多方协作、动态治理、伦理优先、法治保障、技术透明等共识，力求平衡推进人工智能的应用与治理。而在3月30日的2025中关村论坛年会“科技与法治论坛”上，多位法律界专家呼吁加快人工智能立法。
鉴于当前人工智能技术发展迅猛，现有法律已难以应对诸多新问题，亟待通过立法填补空白，强化技术安全与伦理规范，推动数智技术与法治深度融合。
本期专题聚焦人工智能在法治实践领域的前沿应用与深层问题，邀请业内权威专家、资深学者以及一线实务工作者，从理论研究、实践经验、技术革新等多元视角进行深度剖析。期望通过他们的真知灼见，激发各界对人工智能与法治实践融合发展的更多思考，共同探索前行路径，让人工智能更好地服务于法治公正，助力构建更加完善、高效的法治社会。
国家网信办日前发布的人工智能生成合成内容标识办法将于2025年9月正式实施，在数字化浪潮汹涌澎湃的当下，新质生产力正以前所未有的速度重塑社会的方方面面。从智能手机到智能家居，从线上支付到网络购物，科技为人们的生活带来了诸多便利。然而，在这科技飞速发展的时代，有这样一群人，他们在享受技术红利的同时，也在艰难地跨越数字鸿沟，他们就是老年人。
在新质生产力的席卷下，老年人正成为最脆弱的群体，他们既渴望融入这个科技时代，又被迫直面技术催生的新型诈骗陷阱。时下，这一政策背景下的老年人反诈形势正引发社会关注。
智能伪装型诈骗：当AI学会“亲情绑架”
2024年11月的一天，江苏南京的张建国老人正在家中看电视，突然手机铃声响起，是一个视频电话，显示的是孙子的头像。老人赶忙接通，视频中孙子满脸泪痕，焦急地说：“爷爷，我在学校闯祸了，把同学打伤了，对方家长要求赔偿8万元，不然就报警，我不敢告诉爸妈，您快救救我。”老人看着孙子可怜的样子，心急如焚，也没多想，就准备转账。好在老人突然想起孙子学校有急事会先联系家长，便给儿子打了个电话核实，这才发现是一场骗局。
警方破案后发现，诈骗分子通过非法获取的通讯录数据，利用AI换脸和语音模拟技术，精准合成了孙子求救的视频。他们对老人的家庭情况了如指掌，让老人很难不相信。这种智能伪装型诈骗，利用了老年人对亲人的关心和信任，直击他们的情感软肋。
北京宸维律师事务所王金龙律师表示：从法律层面来看，根据刑法第二百五十三条第一款，非法获取公民个人信息罪，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。而生成式人工智能服务管理暂行办法也明确规定，利用生成式人工智能生成的内容应当真实准确，不得生成虚假信息，并需对深度合成内容进行显著标识。但诈骗分子显然无视这些法律规定，肆意践踏法律红线。
政策漏洞下的养老骗局：数字金融外衣藏风险
2023年，深圳出现了一个“数字养老社区”项目，宣传十分诱人。项目方称，这是一个结合了区块链技术和养老产业的创新项目，投资者不仅可以获得年化收益35%的高额回报，未来还能入住高端的数字养老社区，享受全方位的养老服务。68岁的投资人王德发被这些美好的承诺所吸引，他心想，自己辛苦攒了一辈子的钱，也该为自己的晚年生活找个保障了。于是，他抵押了房产，投入了120万元。
一开始，王德发确实收到了一些所谓的“收益”，这让他更加坚信这个项目的真实性。可没过多久，平台突然关闭，所有的联系方式都失效了。王德发这才如梦初醒，自己的养老钱打了水漂。经查，这个平台服务器设在境外，资金通过虚拟货币进行洗钱，所谓的数字养老社区不过是一个变相的非法集资概念。
律师表示，随着防范和处置非法集资条例深化落实，监管部门正推进“智慧监管”平台建设，通过数据穿透识别异常资金流动。但养老服务的核心是“服务”而非“投资”，任何承诺高额回报的“养老项目”，本质都是击鼓传花的骗局。
政策嫁接型骗局：数字政务场景下的身份盗用
2024年10月12日，成都王老太接到“锦江区医保局”电话，称其在上海医保卡套现1万元，诱导其联系“上海警方”。“民警”以涉嫌洗钱为由，要求其购买新手机、注册新号码，并下载指定App，逐步套取其700余万元保险信息，谎称保险不安全，诱骗退保换购金条。
10月19日，王老太完成退保并预约金条业务。10月21日，她在银行谎称“外出旅游”联系女儿，其女察觉异常报警。辖区派出所民警火速到场，联合银行阻止了即将转移的700余万元存款。
王金龙律师表示：成都王老太遭遇的“医保卡盗刷”骗局，暴露出电子政务安全短板。诈骗分子通过伪造政务平台、模拟公职人员话术，诱导老人进行资金转移。值得警惕的是，此类犯罪中82%的受害者曾通过非官方渠道办理过电子政务业务。
当下，老年人防诈骗问题已然成为一道棘手的“银发困局”，无数老人深陷诈骗陷阱，权益受损。这一难题亟待社会各界协同发力（图片由AI技术生成）
全流程安全管理 打造可信赖的人工智能技术
为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布人工智能生成合成内容标识办法（以下简称“标识办法”），自2025年9月1日起施行。
据联合国高级别人工智能咨询机构中方专家、中国政法大学数据法治研究院教授张凌寒介绍，在人工智能生成合成内容的生产环节，服务提供者应对生成合成内容添加标识。服务提供者应对文本、图片、音频、视频、虚拟场景等典型应用场景的生成合成内容添加显式标识，并在生成合成内容的文件元数据中添加隐式标识，以明确内容属性、服务提供者信息等内容。
在人工智能生成合成内容的传播环节，不同主体应对标识的合规性进行确认。服务提供者在提供生成合成内容下载、复制、导出等服务时，应当确保文件中含有满足要求的显式标识。网络信息内容传播平台应当核验文件元数据中是否含有隐式标识，并采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户。互联网应用程序分发平台在应用程序上架或上线审核时，应核验生成合成内容标识相关材料。
在人工智能生成合成内容的使用环节，用户同样应履行标识义务。服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。用户向网络信息内容传播平台上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。
国家计算机网络应急技术处理协调中心正高级工程师张震表示，标识办法是对互联网信息服务算法推荐管理规定、互联网信息服务深度合成管理规定、生成式人工智能服务管理暂行办法的继承和延伸，从人工智能技术特性出发，在生成合成标识这一人工智能安全治理关键上提出了针对性的管理思路，将成为我国建立健全人工智能新技术安全体系的重要推动力。
“标识办法进一步明确了人工智能生成合成内容全生命周期履行标识义务的具体要求与主体责任，完善了我国生成式人工智能的治理框架。”张凌寒说。
张震认为，标识办法充分彰显了监管理念的与时俱进，从传统的严格监管转向更加灵活的引导与规范，既尊重了技术创新的内在规律，又体现对潜在风险的有效防范。
为推动标识办法落地实施，强制性国家标准网络安全技术人工智能生成合成内容标识方法（以下简称“标识标准”）同步发布。
据《法治日报》报道，国家网信办有关负责人介绍说，标识办法主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，为促进人工智能技术创新发展，对具体实施操作不作要求。标识标准以强制性国家标准形式制定实施，主要提出强制执行部分的标识具体实施方式和操作方法，两者同步推出，于2025年9月1日同步实施，以更好地指导相关主体规范开展标识活动。
“标识标准作为标识办法的补充，明确了生成合成内容标识应当遵循的技术方法，为产业落地提供了参考依据。”张震说。
在中国电子技术标准化研究院副院长范科峰看来，此次标识办法、标识标准的协同发布，破解了以往治理中管理规范与技术标准衔接不畅的问题，形成了“制度牵引技术落地，技术固化制度要求”的治理闭环。
作为我国人工智能领域首部“办法+强标”组合拳，其创新性体现在三个维度：管理维度明确生成、传播、分发全链条主体责任；监管维度建立审核、监测、追责的闭环机制；技术维度规范显隐标识体系并预留创新空间。范科峰说，“这种三位一体的治理架构，既通过管理机制明确责任边界，又依托监管举措筑牢安全防线，更以技术标准固化治理要求，为人工智能安全治理提供了清晰的实施路径。”
规范人工智能生成合成内容标识的举措还有许多。全国网络安全标准化技术委员会对于生成合成服务提供者和内容传播服务提供者的平台编码，组织起草了配套实践指南网络安全标准实践指南——人工智能生成合成内容标识服务提供者编码规则，已于3月14日正式获批发布，为相关主体开展文件元数据隐式标识提供了编码指引。
此外，全国网络安全标准化技术委员会正在就各文件格式的元数据标识规范、各应用场景的标识方法等组织编制一系列推荐性标准、实践指南，将在标识办法发布后逐步推出。
标识办法、标识标准的发布，标志着我国在人工智能安全治理领域迈出了重要的一步。推动标识办法、标识标准落地的重要性不言而喻。
“考虑到企业需要时间充分理解相关规定和标准规范，有针对性地开展能力建设和功能研发，基于标识技术实施的复杂程度、试点试行的实践经验，设定标识办法和标识标准6个月左右的施行过渡期。”国家网信办有关负责人说。
“标识办法和标识标准的落地离不开全社会的凝心聚力和协同配合。”中国工程院院士、浙江大学教授陈纯说，地方主管部门、高校、科研机构、企业可共同参与，充分利用新媒体、新渠道面向全社会进行大力宣贯，形成标识工作先行的多点协同内容治理网络，推动标识工作行稳致远。此外，有必要建立全国性的内容标识公共服务平台，以可视可交互的实际操练形式，配合口头宣贯，促进公众和产业深入理解标识工作。
“可以预见，我国人工智能安全执法将延续重点事项监管、促进产业有序发展的方向。”公安部第三研究所副所长金波认为，伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规有望成为相关部门开展人工智能监督检查、专项行动的重点关注领域。在此进程中，一系列深层次问题亟待审慎思考与妥善解决——如何平衡发展与安全、创新与责任、公益与私益等多元目标的内在张力，怎样达成不同执法部门、不同层级、不同地域执法的一致性、协调性，又该通过何种路径提升执法的专业化、精细化、智慧化水平，从而培育出安全、开放、公平、符合国情的人工智能产业生态环境。这些都是标识管理中需要深入探究的重要课题。
“此外，‘人的因素’应融入人工智能标识管理的全过程，着重提升公众对于信息内容真实性、来源可追溯性的批判性评估能力，无疑是重中之重。积极培育公众人工智能素养，确保人工智能技术成果普惠共享，这也是应有之义。”金波说。（本文中人物均为化名）（邢军）
【本文刊载于《人民法治》杂志2025年4月上（总第199期） 系列报道栏目】
