中国的《个人信息保护法》(PIPL)自2021年11月1日起施行,但许多企业仍在追赶其对AI系统的具体要求。PIPL不仅管数据存在哪里,更规范个人信息在自动化决策、用户分析与模型训练中的使用方式;违规最高可被处以5,000万元人民币或上一年度营业额5%的罚款。
PIPL对AI系统提出了哪些要求?
与AI系统直接相关的PIPL条款可以归纳为四类。同意:个人必须知情并同意其数据用于自动化决策与用户画像;透明度:当AI作出影响个人的决定时,个人必须被告知并有权要求解释;选择退出:个人可以拒绝基于用户画像的推送与自动化决策;数据本地化:在中国境内收集的个人信息原则上必须存储在中国境内。
这四类要求对AI产品的影响是结构性的:数据采集环节需要重做同意流程,模型推理环节需要支持“解释”能力,营销系统需要提供退订与人工申诉入口。把合规要求当成上线前的补丁,成本远高于在架构设计阶段就内建这些能力——补丁式的合规,往往以更高的代价重复返工。
企业还应注意PIPL与《数据安全法》《网络安全法》以及2025年1月1日起施行的《网络数据安全管理条例》之间的衔接:不同法规对数据分类分级、重要数据保护与事件报告的要求相互补充,合规体系应当按“数据分类分级—合规要求映射—控制措施落地”的思路整体设计,而不是逐条应对、头痛医头。
数据本地化在实践中如何落地?
对于处理中国居民个人信息的AI系统,数据必须存放在位于中国境内的服务器上。这意味着包含个人信息的训练数据、模型输入与预测输出都不得出境;跨境传输必须通过安全评估、标准合同或认证等法定路径。企业应在架构设计初期就规划境内数据节点,而不是在业务扩展后再做改造。
实践中有两个常见误区:一是认为“加密后就能出境”,实际上加密并不能豁免本地化义务;二是把客户数据的合规责任完全推给云厂商,而PIPL下的个人信息处理者责任仍由企业自身承担。与合规顾问和法务协同、在数据地图基础上做架构规划,是更稳妥、成本也更低的起点。
对于确有跨境需求的企业,可以采取的合规路径包括:通过国家网信部门的安全评估、签订标准合同或取得专业机构认证。2024年出台的《促进和规范数据跨境流动规定》进一步明确了免于评估的若干情形,例如不含个人信息或重要数据的一般业务数据,企业应结合自身的数据处理活动逐项对照,确定适用路径。
自动化决策需要满足哪些合规要求?
当AI系统作出对个人有重大影响的决定——信用评分、招聘筛选、动态定价——PIPL要求:告知个人AI正在作出决策;解释决策逻辑;提供拒绝自动决策并请求人工复核的机制。这些能力应当构建在应用层,而不是事后补救,否则每个新场景上线都要面临合规返工。
落地这些能力还有一个容易被忽略的配套动作:员工培训。客服、销售与运营人员直接面对用户的同意询问与解释请求,他们对隐私政策的理解程度,直接决定合规要求能否在日常触点中兑现。把合规意识纳入岗位培训,是成本最低的合规投入之一,也是很多企业最容易遗漏的一环。
实现上并不复杂:决策前弹出说明页面、决策后提供“申诉”入口、在系统中保留人工复核工作流。真正困难的是组织层面的协同——产品、法务、数据团队必须就“什么算重大影响”“解释到什么程度”达成一致,否则每个新场景都要重新争论,合规工作将陷入无休止的扯皮。
企业应如何建立审计追踪与问责机制?
PIPL要求组织留存个人信息处理活动的记录。对AI系统而言,这意味着记录:哪些个人数据被使用、用于什么目的、由哪个模型处理、作出了什么决定、谁对此负责。具备内置审计追踪的平台可以自动满足其中大部分要求——每一次查询、每一次数据访问、每一次模型预测都被记录在案。
审计记录的价值不止于合规本身。当用户投诉、监管问询或模型事故发生时,完整的日志让企业能够快速定位原因、出具证据、启动整改;反过来,审计盲区往往意味着一旦出现问题就无法自证清白。把审计能力与数据血缘结合,还能顺带提升模型治理与数据质量,形成一举多得的正向循环。
审计记录的粒度也需要斟酌:过细会带来存储与性能压力,过粗又无法满足监管追溯。通常的做法是分层记录——操作级日志实时记录每一次访问与预测,汇总级报告按月生成,关键事件的详细上下文单独归档,在成本与可追溯性之间取得平衡。
合规工作应该从哪里开始?
建议从数据地图开始:梳理企业收集了哪些个人信息、存放在哪里、流向何处、由谁处理。没有数据地图,同意管理、本地化、审计追踪都无从谈起。第二步是按风险排序,优先处理影响面最大、监管关注度最高的场景,例如涉及大规模用户数据的营销与风控系统。
多数企业的合规改造工作量并不像想象中那么大:以数据地图为基础,大约60%至70%的整改项集中在同意流程、跨境传输与日志留存三类问题上。蜂启咨询可以帮助企业快速完成数据梳理与差距评估,并规划分阶段的落地路径,让合规建设与AI业务发展同步推进,而不是互相拖累。
合规不是一次性的项目,而是持续的过程:法规在更新、业务在扩展、数据处理活动在变化,企业应当建立定期复盘的机制,例如每季度重新审视一次数据地图与差距清单,把新场景纳入既有合规框架,避免风险随业务增长而悄悄累积。
本文的核心要点是什么?
- 同意、透明度、选择退出与本地化是AI合规的四项地基。
- 境内存储与法定跨境路径必须在架构期规划。
- 重大影响的自动决策必须可解释、可申诉、可人工复核。
- 以数据地图为起点,分阶段推进合规改造。
合规工作应该从哪里开始?
PIPL不是阻碍AI落地的枷锁,而是倒逼数据能力走向成熟的契机。合规的AI系统,恰恰是用户信任与企业长期竞争力的来源,把合规做好,本身就是一种差异化优势。
合规建设的关键在于把要求内建到架构与流程之中,而不是留到上线前突击。蜂启咨询在AI系统规划阶段即介入合规设计,帮助企业以可控的成本满足PIPL要求,同时保持AI交付的节奏与质量,让安全与速度兼得。
AI系统中的个人信息应该如何盘点?
要让AI系统符合PIPL,必须先掌握个人信息实际流向何处;多数企业会发现,其AI系统接触到的个人信息量与路径,都远超过既有的文件记录。这项工作是数据流程盘点,而且必须涵盖五个阶段,而不只是通常被关注的两个。
接入——所有把个人信息带入平台的来源:CRM、人力资源系统、客服工单、聊天记录、网站分析、第三方数据。训练与微调——使用了哪些数据集、其中是否包含个人信息、以及在使用前是否做了匿名化或去标识化处理,因为PIPL对去标识化数据与匿名化数据的处理方式不同。检索与扎根——RAG系统在查询时把哪些文件拉进上下文,这是最常被完全忽略的路径:一个只用公开数据训练的模型,仍可能透过检索在推理时带出个人信息。推理与输出——模型回传了什么、给了谁,以及输出本身是否构成个人信息。日志与评估——提示词、回应与人工复核伫列,这些往往在业务目的结束后仍长期保留个人信息。
产出是每个系统的处理活动记录,而这正是PIPL所要求的产物:个人信息的类别、处理目的、法律依据、保存期限、接收方、跨境传输情况,以及安全措施。逐系统建立这份记录,是合规工作的主要内容,也是让其他所有义务——同意、本地化、自动化决策规则、审计追踪——都能被回答的前提。
AI场景下的合法性基础与同意应该如何设计?
PIPL允许多种处理依据,同意只是其中之一。对AI系统而言,实务问题是每项处理活动适用哪一种依据,因为判断错误会把合法的系统变成不合法的系统。
合同履行与人力资源管理涵盖了企业AI应用的很大一部分:为运行内部系统而处理员工数据,或为交付客户已购买的服务而处理客户数据。当AI的使用超出个人在该关系中合理预期的范围时,就需要单独同意,而且必须是具体的——同意「改善我们的服务」并不涵盖用客户的客服对话来训练模型。对于敏感个人信息——生物识别、健康、金融帐户、行踪轨迹,以及未成年人的个人信息——要求进一步提高,在大多数情况下需要特定目的与必要性,并取得单独同意。
这带来两项设计上的结果。第一,同意的取得必须是细粒度且带版本记录的:记录同意的内容、时间、用语,以及它授权了哪些处理活动。第二,撤回必须在营运上真正可行。当个人撤回同意时,系统必须能停止将其数据用于受影响的目的;在AI情境下,这可能意味著将其排除于未来的训练之外,在某些解读下还需处理已纳入模型的数据。把训练语料与提供服务的模型分开的架构——使得在移除该个人的数据后能重新产出模型——在营运上明显比做不到的架构更容易。
PIPL合规工作应该如何排序?
排序很重要,因为各项义务彼此牵动:本地化决策限制架构选择,而架构决策又决定了需要取得哪种同意。可行的顺序如下:
- 第1至4周——范围与盘点。判断PIPL是否适用,然后为范围内的AI系统建立数据流程盘点与处理活动记录。在这些完成之前,其他问题都无法被正确回答。
- 第5至8周——分类与放置。为每个数据类别分类,决定哪些必须留在中国境内,并为跨境的数据确定传输机制。这是架构变更成本最低的时点。
- 第9至12周——同意、解释与审计。让同意的取得与实际处理活动对齐,建立自动化决策的解释能力,并建置审计追踪:用了什么数据、出于什么目的、由哪个模型处理、做出什么决定、谁负责。
- 持续——监控与重新评估。对高风险处理活动进行个人信息保护影响评估,定期检视传输机制,并在系统目的或数据来源发生重大变化时重新评估。
处理得最好的企业,是把这些当成架构需求,而不是法务审查的关卡。本地化、按目的限制的访问、可解释性与可审计性,正是让AI平台能在中国市场运作的特性,同时也建立客户与监管机构的信任。
如何对AI系统开展PIPL合规评估?
一项务实的PIPL评估是一套结构化的走查,而不是一次性的勾选。从数据清单开始:识别系统收集的每一类个人信息、每一类的合法性基础(同意、合同或法定义务),以及是否有任何属于会触发更严格条件的敏感个人信息。梳理完整生命周期——收集、存储、跨境传输、自动化决策与删除——并标记每一处附有PIPL义务的点。
接下来,针对这份地图测试控制措施。确认同意是具体且可撤回的;跨境传输使用了标准合同条款或认证等经批准的机制;任何对个体有重大影响的自动化决策都提供了人工复核的通道。把评估结果记录下来,指定负责人,并在模型、数据或法规发生变化时安排周期性复审。目标是一份监管者能够接受的举证轨迹,而不是一份积灰的文档——因为在PIPL之下,缺乏可证明的责任本身即构成违规。