或许你曾对着ChatGPT倾诉职场焦虑，或用Midjourney生成一张“二十年后的自己”，甚至只是让AI润色一封私人邮件，你可能从未细想：你说的每一句话、上传的每一张图、透露的每一个生活习惯，都可能被模型悄然“记住”，并成为它继续进化的养料。生成式AI像一位不知疲倦的“信息炼金术士”，把海量数据揉碎、重组，创造出令人惊叹的内容。然而，在这场技术狂欢的背后，个人信息正以前所未有的广度、深度和隐蔽度被采集、消化和留存。一位北京的白领曾惊讶地发现，自己用AI问诊后不久，相关健康类广告便精准推送到了自己的所有关联设备上——而她从未授权任何平台将医疗信息用于营销。类似的“细思极恐”正在无数用户身上反复上演。
2026年，中国人工智能治理迎来了一个关键转折点。5月11日，《国务院2026年度立法工作计划》对外公布，其中明确提出“完善人工智能治理，加快推进人工智能健康发展综合性立法”；同日，《全国人大常委会2026年度立法工作计划》也将“人工智能健康发展等方面的立法项目”纳入预备审议项目。7月31日，国家发展改革委进一步明确“将加快人工智能法立法进程”……从2017年首次提出人工智能立法构想，到如今“综合性立法”正式提上日程，一部统摄人工智能领域的基础性法律正在向我们走来。
然而，立法“在路上”，问题“已在眼前”。《中华人民共和国个人信息保护法》中“知情同意”“最小必要”两大基石原则，在生成式AI的“算法黑箱”面前“频频卡顿”。不是原则过时了，而是旧地图难绘新大陆。如何在新法出台之前为这两大核心原则精准“打补丁”，让规则与算力重新“对齐”？这不仅是立法者的考题，更关乎每一个普通人的数字人格尊严。
知情同意原则
为何频频“失灵”？
知情同意原则的核心要义朴素而坚实：信息主体在个人信息被收集和使用之前，有权充分了解处理的目的、方式、范围及可能后果，并在此基础上自愿、明确地作出是否同意的决定。它的法理根基来自民法人格权体系下的信息自决权，《中华人民共和国个人信息保护法》第十三条至第十七条以明确的法律条文将其确立。
然而，当原则落入实践，情况就变得复杂起来。有学者直言，目的限制原则、最小必要原则以及知情同意原则在生成式人工智能领域的实践中“丧失了法的适应性”。生成式AI的不确定性导致服务提供者也难以事先确定个人信息将会被如何处理，以及后续的用途与方式。动辄上万字的隐私政策是横亘在用户与“实质知情”之间的第一道高墙。中国消费者协会2024年发布的一项调查显示，仅有不到7%的用户会完整阅读网络服务的隐私协议，超过六成的人承认“根本看不懂”其中的法律术语和技术表述。2025年3月，腾讯元宝因《用户协议》中规定用户上传内容及生成内容可获“广泛、无边界的许可使用权”而引发用户强烈担忧。广州一位大学教师的经历颇具代表性：她在注册某AI绘画平台时，隐私政策中写着“用户上传内容可能被用于模型训练及优化”，她反复读了数遍，依然无法判断自己随手拍的家庭照片究竟会变成AI数据库的一部分还是被用于其他目的。
如果说“读不懂”是沟通层面的障碍，那么“不知情的泄露”则是更为致命的信任危机。2025年8月，马斯克旗下的人工智能公司xAI被曝在未提前告知的情况下，将用户与聊天机器人Grok的对话公之于众，谷歌搜索引擎已收录超37万条用户对话记录。这些对话不仅包括写作推文等简单商业任务，还涉及询问医学和心理学方面的私密问题，部分对话甚至泄露了用户的姓名、密码等个人信息。用户点击“分享”按钮时，系统会生成一个对搜索引擎开放的统一资源定位系统（URL），但用户不会收到任何提示或免责说明——你以为是“私下分享”，实际上已经是“全网公开”。
一位女子佩戴智能眼镜查看大数据（视觉中国 供图）
知情同意原则在生成式AI场景下面临的远不止“没人读”“读不懂”这样的沟通问题。信息界定的模糊让“同意”失去了清晰靶心。一条浏览记录、一次点击热图、一段语音输入的声纹特征，究竟算不算“个人信息”？经过脱敏处理的数据，在AI强大的关联分析能力下是否依然能够“对号入座”？边界的不清晰使得用户根本无法明确自己究竟同意了什么东西。与此同时，信息主体始终处于结构性弱势地位。技术鸿沟带来的认知不对称，让“实质知情”几乎成为不可能，而绝大多数平台采取的“一揽子同意”模式——不同意隐私政策就无法使用任何功能——更是把用户推向了“被同意”的尴尬境地。而最棘手的是，生成式AI的技术特性让传统删除权几乎无从履行。用户的一段对话记录、一张上传的图片一旦融入千亿参数的神经网络，就如同将一滴墨汁投入一缸清水，再想完整分离出来，技术成本高得惊人。欧盟数据保护委员会的一位技术顾问曾给出过一个形象的比喻：“在训练完毕的大模型中删除某一条特定个人信息，好比在一座已经烘焙完成的蛋糕里把某一颗糖分子单独挑出来。”这不是完全不可能，但远非普通用户以为的“点一下删除键”那么简单。
为知情同意原则“打补丁”：
从“形式勾选”到“实质知情”
要让“同意”真正承载起“知情”的重量，必须从告知内容、告知形式和同意方式三个维度进行系统性重构。
在告知内容上，生成式AI的信息采集主体往往呈现多元化特征，涵盖模型所有者、直接服务提供者、第三方插件运营者，有时还涉及母公司与子公司的共同采集。告知必须以清晰列表形式列明全部采集主体的名称、身份角色及信息处理权限，让用户能够针对不同主体作出差异化的授权或拒绝。信息处理目的的披露必须兼顾静态描述与动态更新——不仅要静态描述当前训练目的，还需披露可合理预见的用途扩展方向，并在用途发生重大调整时以显著方式重新告知并再次获取同意。在告知形式上，必须彻底抛弃满屏法律术语和技术黑话的“专业傲慢”，代之以平实直白的日常语言，构建“核心摘要+完整文本”的双层告知模式。深圳一位退休工程师曾向媒体坦言，他使用某AI写作工具时根本读不懂“基于Transformer架构的深度学习模型”这类表述，但如果平台换一种说法——“我们会用您的文字让AI更懂中文表达”——他就能作出清晰判断。更为前沿的探索是，充分利用生成式AI自身的技术优势构建互动式告知机制，将隐私条款纳入模型知识库，允许用户就特定条款发起自然语言询问。
在同意方式上，必须严格落实敏感个人信息的“单独同意”要求，对生物识别、医疗健康等敏感信息单独设置同意入口，禁止与非敏感信息捆绑处理。上海一位法律学者就发现，他在使用某AI健康应用程序的过程中，系统在处理心率、睡眠数据与常规使用数据时，分别弹出了两个独立的用户确认窗口，且前者需要单独勾选并二次确认，后者只需一次轻点——这种差异化设计让他切实感受到自己的决定被尊重了。同时，应借鉴欧盟《人工智能法案》的风险分级思路，结合生成式AI的不同风险等级设置差异化的同意标准，并建立便捷、高效、可追溯的同意撤回机制。2026年7月15日起施行的《人工智能拟人化互动服务管理暂行办法》已经迈出了重要一步，明确规定除法律另有规定或取得用户单独同意外，拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。
最小必要原则
为何力不从心？
《中华人民共和国个人信息保护法》第六条确立的最小必要原则，要求个人信息的处理范围限于实现处理目的的最小范围，采取对个人权益影响最小的方式。然而在生成式AI的语境下，这一原则正面临前所未有的适用困境。
生成式人工智能开发依托大规模数据收集，易出现收集范围不明确或超限情况，如部分大型语言模型训练数据含未充分去标识化的个人文本信息。生成式人工智能信息收集行为主动、收集内容全面、泛化能力强劲。大模型的训练目的具有根本性的开放性——它的目标是提升通用智能，个人用户无法像对待“天气预报App”或“计算器工具”那样精准地划定“必要数据”的边界。试问：要让AI学会写诗，究竟多少首诗的语料才是必要的？要让AI理解人类的情绪，究竟需要多少段对话记录才称得上必要？
一个真实的案例足以说明问题的严重性。近日有博主发帖称，自己在使用一款AI大模型翻译工作PPT时，错发了一张包含3句英文的图片，结果大模型先是发来了一段毫不相关的工程学文字，在被用户质疑答非所问后，又发来一份陌生人的完整简历，包括姓名、电话号码、邮箱以及详细的工作经历。博主联系上简历主人后，对方表示曾让这个大模型帮忙优化简历。运营方对此种现象的解释是“AI幻觉”，但多位专家公开表示，泄露的简历全部是用户上传的原始资料，信息真实、完整、可溯源，与AI幻觉虚构编造的定义完全不同。有专家分析认为，此事更可能涉及会话隔离、缓存复用、检索增强生成链路绑定错误等技术缺陷。这一事件暴露出的核心问题是：大模型在训练和运行过程中，对用户数据的隔离、脱敏处理存在严重漏洞。
而《中华人民共和国个人信息保护法》第二十七条关于已公开个人信息“合理范围”的规定，在AI的海量爬取行为面前几乎形同虚设。2025年9月，公安网安部门在“护网—2025”专项工作中发现，某主营人工智能模型训练基础数据的科技有限公司，在处理人脸等生物识别类敏感个人信息前，未按《中华人民共和国个人信息保护法》有关规定进行个人信息保护影响评估。为此，公安机关依法对这家公司进行了处罚并责令其整改。然而，这一案例也揭示了一个令人担忧的现实：在AI训练数据产业链上，人脸等敏感生物识别信息正在被大量采集和处理，但许多处理者连最基本的法律义务都未能履行。
为最小必要原则“打补丁”
从“静态限数”到“动态控险”
回归立法原旨，最小必要原则的核心要义是引导处理者在实现处理目的的多种方案中优先选择对个人信息权益影响最小的那一种。这里所提到的“最小”绝非单纯的“数量最少”，而是“全流程权益影响最小”——收集数量少、目的特定化、使用完毕及时删除、泄露后及时止损，贯穿信息处理的完整生命周期；“必要”也非一成不变的静态尺度，而应结合信息处理行为对个人权益的实际影响进行动态风险判断。
要实现这种平衡，最小必要原则的重构必须跳出“一刀切”的静态思维，转向全生命周期、分级分类的动态规制。首先是将大模型的整体训练目的拆解为若干具体的子任务——语义理解、逻辑推理、内容生成等，再分别判断每个子任务所需信息的最小必要范围，禁止系统收集与任何子任务无关的信息。语义理解任务只需收集用户文本输入的内容，无需获取位置信息或通讯录；内容生成任务只需获取用户的风格偏好和主题关键词，无关生物识别特征。有学者建议，首先应推动治理原则由“最小必要”转向“最小权限”，并对权限治理进一步细化，从而形成分阶段授权、分层级开放、分场景隔离的运行机制。其次是构建分级分类的风险监控体系，参照欧盟《人工智能法案》的思路，将生成式AI服务划分为不可接受风险、高风险和限制性风险三个等级，并给予与之对应的规制措施。最后是完善配套制度，细化已公开个人信息的“合理范围”界定规则，建立技术中立的必要性评估机制，并完善跨部门协同监管。有学者进一步指出，应坚持并细化目的明确与最小必要原则，要求运营者披露数据收集类型与用途，建立独立机构定期评估机制审查收集相关性，依法纠正无关或冗余收集行为。
法律与技术
如何在赛跑中找准节奏？
生成式AI的狂飙突进没有让法律原则失效，只是放大了传统规则与新技术之间的“时差”。我们需要的不是推倒重来的制度革命，而是创造性的制度转化——在我国的人工智能法正式出台之前，为两大核心原则精准“打补丁”。中国社会科学院法学研究所研究员支振锋指出，我国在人工智能立法方面走的是一条“先探索分领域立法、敏捷回应和解决具体问题，待条件具备、时机成熟后制定统一人工智能法”的路径。如今，立法的条件正在成熟。
令人欣慰的是，积极的变化正在发生。2025年10月28日，第十四届全国人民代表大会常务委员会第十八次会议通过全国人民代表大会常务委员会关于修改网络安全法的决定，明确支持人工智能发展的措施和安全规定。修改后的《中华人民共和国网络安全法》第二十条规定：国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管。2026年以来，多部与人工智能相关的法规密集落地——《人工智能拟人化互动服务管理暂行办法》已于7月15日施行，《人工智能生成合成内容标识办法》于9月1日生效，多项生成式人工智能相关的网络安全国家标准于11月1日实施，涵盖预训练和优化训练数据安全规范、服务安全基本要求、数据标注安全规范等。
与此同时，监管部门已在行动。2025年4月，中央网信办部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条。不久前，北京某企业开发的App被查明在后台运行且用户未使用任何功能的情况下，收集上传用户应用程序安装、卸载信息；用户使用上传AI头像等功能时，调用非必要存储权限。网信部门认定其行为超出了实现个人信息处理目的的最小必要范围，依法责令改正、给予警告，并处罚款。
中国社会科学院国情调研重大项目起草组已于2026年发布了《人工智能法示范法1.0（专家建议稿）》，建议采用负面清单管理制度对人工智能进行风险管理，明确了人工智能研发者、提供者的义务，创设性提出设置国家人工智能主管机关。我们期待，即将出台的人工智能法以之为“纲”，确立风险分级、算法透明、合规审计等基础性制度；以个人信息保护法、网络安全法、数据安全法为“目”，针对生成式AI、智能体等具体场景细化配套规则。正如有学者所言，在规范调适层面，应推动信息匿名化标准从绝对走向相对，厘定公开个人信息合理利用边界，实行知情同意分层分类处理，为个人信息价值释放创设制度空间。
在这场人与机器的深度共舞中，法律既不能缺位，也不应越位。唯有找到技术创新与权益保护的最大公约数，让知情同意从“形式勾选”走向“实质知情”，让最小必要从“静态限数”走向“动态控险”，我们才能在拥抱AI创造力盛宴的同时，守住每一个人“不被算法定义”的尊严底线。当人工智能法正式落地的那一天，我们希望它带来的不仅是一部新法，更是一套能让技术狂奔与权益保护同频共振的治理新范式——为全球人工智能治理贡献一份务实、平衡的中国方案。（北京市丰台区人民检察院 焦焜 国际关系学院 孙奕德）
【本文刊载于《人民法治》杂志2026年8月上（总第231期）法治新知栏目】