ASI与AGI深度伪造犯罪：超级智能生成虚假内容的刑法规制
ASI 时代的深度伪造刑法规制，核心判断就一句：我国刑法目前没有针对深度伪造的专门罪名，司法实践依托既有罪名体系按"行为链条"涵摄——上游数据获取、中游技术供给、下游内容滥用分别评价，平台另依行政前置义务追责；ASI 带来的真正挑战不是"罪名不够"，而是"因果链被打散、责任主体被稀释"，所以刑事治理的重点正从末端惩罚前移到全链式防控。《中国法学》2026 年第 3 期刘期湘的文章把这套思路概括为"深度伪造技术全链式刑事治理模式"——在技术研发与信息获取阶段精细化治理，在技术运用阶段对使用行为独立评价与分类处置，在生成物传播阶段加强后果治理与罪名优化 。这道门，ASI 推得开，但只推得开一条缝——这条缝的宽度，恰好等于"上游数据—中游工具—下游内容—平台治理"四段行为链与既有刑法罪名体系精准涵摄的交集。
一、中国法：按"行为链条"涵摄既有罪名
光明日报 2026 年 8 月最新综述把深度伪造的刑事风险循"行为链条"作了系统梳理 ：
上游：数据获取环节
- 非法爬取、买卖用于训练换脸拟声模型的人脸照片、声纹样本等生物识别信息 → 侵犯公民个人信息罪
- 破解人脸识别认证系统获取数据 → 同时触犯非法获取计算机信息系统数据罪
- 刘宪权进一步建议：生物识别信息属于特殊种类的个人信息，应通过修改司法解释合理归入刑法规制范围；并应在侵犯公民个人信息罪中增设"非法使用"的行为类型，实现法益保护全覆盖
中游：技术供给环节
- 明知他人利用深度合成实施犯罪，仍提供换脸软件、克隆工具或技术支持 → 帮助信息网络犯罪活动罪或非法利用信息网络罪
- 专门为恐怖活动研发特定的深度伪造软件，尽管尚未造成实际损害结果 → 可直接评价为准备实施恐怖活动罪
- 深度伪造技术研发过程中不当的信息收集行为 → 涉嫌侵犯公民个人信息罪乃至非法获取国家秘密罪
下游：内容滥用环节（按侵害法益分别评价）
侵害法益 | 典型行为 | 适用罪名 |
|---|
财产法益 | 换脸拟声冒充亲友、领导实施电信网络诈骗 | 诈骗罪 | 财产法益 | 以合成不雅影像相要挟索取财物 | 敲诈勒索罪 | 人格法益 | 伪造他人不雅影像散布或捏造事实贬损他人名誉 | 侮辱罪、诽谤罪 | 风化法益 | 合成淫秽视频并传播、牟利 | 传播淫秽物品罪或制作、复制、出版、贩卖、传播淫秽物品牟利罪 | 公共秩序 | 编造、故意传播虚假的险情、疫情、灾情、警情 | 编造、故意传播虚假信息罪（《刑法》第 291 条之一第 2 款） | 国际秩序 | 境外势力利用 AI 伪造我国公务人员不当音视频、虚假政策文件 | 危害国家安全类犯罪 |
💡 实证案例：绍兴市上虞区人民法院对张某、陈某利用 AI 批量生成"工业园大火"等虚假灾情视频 20 余条、累计阅读量超 167 万次一案，以编造、故意传播虚假信息罪分别判处二人有期徒刑一年一个月，缓刑一年六个月 。这是 AI 生成虚假内容入刑的典型判例。
平台治理环节：行政前置义务 + 刑事兜底
《互联网信息服务深度合成管理规定》（2023 年 1 月 10 日施行）搭建了行政义务框架 ：
- 第 6 条：任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息
- 第 9、10 条：真实身份信息认证 + 输入数据和合成结果审核义务
- 第 17 条（2026 年新规补充）：生成合成内容须按文本、音频、图片、视频、虚拟场景分别添加显式标识——在起始、末尾或中间适当位置添加文字提示、语音提示、显著提示标识
- 第 20 条：具有舆论属性或社会动员能力的新产品、新应用、新功能须开展安全评估
- 第 22 条：违反规定的，构成违反治安管理行为的给予治安处罚；构成犯罪的，依法追究刑事责任
平台拒不履行信息网络安全管理义务，且具备"网络服务提供者不履行法律、行政法规规定的信息网络安全管理义务，经监管部门责令采取改正措施而拒不改正"的，可评价为拒不履行信息网络安全管理义务罪 。
修订后的《治安管理处罚法》同步补上了"不够刑"的漏洞：对 AI 换脸拟声的上游行为——非法获取、倒卖人脸照片、声纹样本，与用 AI 换脸、拟声冒充他人身份行骗，在不构成犯罪的情况下，可处行政拘留——让违法者即使"不够刑"也跑不掉 。
二、ASI 带来的刑法新挑战
刘期湘在《中国法学》文章中指出深度伪造刑事治理面临三重挑战 ：
1. 宏观价值维度：自由刑法观与安全刑法观的单一导向易使治理僵化——单纯保障技术自由会忽视研发风险；单纯安全导向又会阻碍技术创新。
2. 中观对象维度：传统治理"重末端、轻前中端"，呈现"事后惩罚"单一内核。但 ASI 时代深度伪造的技术供给和内容生成已实现自动化、规模化、多语言化——一个 ASI 智能体可以在无人实时干预的情况下，批量生成海量伪造音视频并跨平台分发，传统"以个体法益保护为主线、以实害结果为主因"的事后惩治逻辑难以应对。
3. 微观规则维度：罪名缺位、归责模糊及量刑机械。例如：
- 间接故意传播深度伪造内容的行为，刘宪权明确主张不应纳入刑法规制范围，坚持"技术包容"的谦抑立场
- 生物识别信息在侵犯公民个人信息罪中的归类存在解释困境
- 网络服务提供者分级责任体系尚未建立
ASI 场景下的特殊难题：
- 因果链稀释：ASI 自主生成 → 多平台自动分发 → 跨境传播，传统的"制作者—传播者—受害者"线性因果链被打散，归责时难以锁定具体责任主体
- 意图证明困难：ASI 生成内容是否具有"欺骗目的""牟利目的""侮辱目的"，需要穿透到部署者的 prompt 设计和系统指令，举证门槛高
- 跨国管辖冲突：境外 ASI 生成的伪造内容在境内传播，依我国《刑法》属人/属地管辖可追，但境外部署者的实际控制与引渡极难
- 平台注意义务边界：面对每秒数百万条的 ASI 生成内容，平台"审核义务"的合理边界在哪里？过度要求会扼杀产业，过低要求则放任危害
三、欧美路径：专门立法 + 平台责任的双向加码
3.1 美国：联邦专门立法未通过，州法拼图先行
法新网 2026 年 6 月报道 ：
- 联邦层面：虽未专门针对成人 AI 色情立法，但利用 AI 生成儿童色情内容被列为重罪，处罚极为严厉
- 州层面：佛罗里达、加利福尼亚、得克萨斯、纽约等超过半数的州已率先出台州级法律，将 AI 生成非自愿色情内容纳入刑事规制范畴
- 城市层面：部分城市直接起诉涉事 AI 企业，依法追究其模型生成儿童性剥削内容的失职责任
- 历史法案：《恶意深度伪造禁止法案》（2018）、《深度伪造责任法案》（2019）等联邦草案虽未通过，但确立了"数字水印+文本描述"的披露义务方向
3.2 欧盟：AI 法案 + 数据治理双轨
- AI 法案（2024/1689）：要求 AI 工具提供者有义务以允许检测合成虚假内容的方式设计这些工具、增加数字水印；AI 提供商必须建立有效的监督和问责机制；对违反规定的行为最高可处公司全球营业额 6% 或 3000 万欧元罚款
- GDPR 路径：将数据权作为独立的基本权利予以保护，以规范数据采集、储存、应用流程，应对深度伪造对公民身份的冒用和隐私侵犯
- 德国刑法：传播深度伪造图像存在对当事人或第三方侮辱性评价的，构成《德国刑法典》第 185 条侮辱罪；宣称或传播足以使对方产生轻蔑态度或贬损人格事实的，构成第 186 条恶意诽谤罪；故意传播涉及他人身份或事实的虚假信息的，依第 187 条考虑入罪
3.3 英国、法国、瑞典、加拿大的最新动作
法新网 2026 年 6 月报道 ：
- 英国：2025 年修订《犯罪与警务法案》，成为全球首个授权监管机构对 AI 工具进行安全测试、防范其生成儿童性虐待内容的国家，并将持有、开发用于生成儿童性虐待内容的 AI 模型行为明确入刑，最高可判 5 年监禁；独立网络监管机构 Ofcom 有权对平台启动调查、责令整改，拒不整改的最高可处 1800 万英镑或全球营业额 10% 的罚款
- 法国、瑞典：相继修订刑法，将 AI 深度伪造色情内容行为纳入侵犯人格尊严与性隐私的犯罪范畴，明确其为新型数字性暴力，加重对施暴者的刑事处罚
- 加拿大：出台专项《深度伪造色情内容法案》，将制作、传播 AI 色情内容入刑，最高可判 3 年监禁，同时明确赋予受害者民事索赔权利，构建起刑事处罚与民事赔偿双轨追责体系
⚠️ 欧盟与美国路径的根本差异：欧盟通过 AI 法案把合规义务强加给"提供者"，用巨额罚款倒逼平台自我监管；美国则是联邦专门立法受阻、州法拼图填补，且刑事追责与民事赔偿并行。英国 2025 年修法把"开发用于生成儿童性虐待内容的 AI 模型"本身入刑，是迈向"前端行为犯罪化"的最激进尝试。
四、ASI 深度伪造的刑事合规框架
框架一：上游数据的"合法来源"闭环
- 训练数据的生物识别信息获取须满足"知情—同意"规则，建立数据来源审计台账
- 人脸、声纹等生物识别信息参照敏感个人信息管理，落实《个人信息保护法》第 28-30 条的单独同意要求
- 侵犯公民个人信息罪的"非法使用"行为类型若经司法解释增设，将直接覆盖"未经同意调用已公开生物识别信息用于训练"的场景——企业需提前自查
框架二：技术供给的"明知"抗辩与 KYM 机制
- 建立 Know Your Model（KYM）机制：对 API 调用方进行实名认证与用途审查
- 对可疑的"换脸/克隆"批量调用建立预警与熔断
- 在 ToS 中明确禁止用于深度伪造违法内容，并保留追偿权利
- 避免落入"明知他人利用深度合成实施犯罪仍提供技术支持"的帮助信息网络犯罪活动罪
框架三：内容生成的"标识与水印"工程化
- 严格遵循《深度合成管理规定》第 17 条的显式标识要求：文本、音频、图片、视频、虚拟场景分别在起始/末尾/中间适当位置添加显著提示标识
- 技术层面落实欧盟 AI 法案要求的"允许检测合成虚假内容的方式设计"+ 数字水印
- 建立 AI 生成内容的元数据标准（C2PA 等），为刑事举证提供"技术指纹"
- 2026 年新规下的显式标识已成为行政合规底线，违反即触发《深度合成管理规定》第 22 条的行政责任直至刑事责任
框架四：平台治理的"分级责任"
刘宪权建议构建人工智能技术应用下网络服务提供者分级责任体系并强化技术治理义务 。具体落地：
- 大型平台（MAU > 1000 万或具有舆论属性）：承担更重的审核、标识、追溯、报告义务
- 中型平台：承担合理的注意义务 + 接到通知后的快速处置义务
- 小型/工具类服务：承担身份实名 + 用途声明 + 异常上报义务
- 拒不履行信息网络安全管理义务且经监管责令不改的，触发拒不履行信息网络安全管理义务罪
框架五：ASI 自主生成场景的"人类控制"举证
- 建立 ASI 决策日志全链路留存（prompt → 推理 → 生成 → 分发），满足欧盟 AI 法案第 12 条终身留存要求
- 关键节点设置"人在回路"：ASI 批量生成涉及人物肖像/声音的内容前，须人工确认
- 保留 prompt 工程与系统指令的完整版本，作为刑事辩护中"不具备犯罪故意"的关键证据
- 跨国运营时，境外 ASI 生成内容在境内传播的，境内运营主体须承担"属地管辖"下的合规义务
五、简短的结论
ASI 时代的深度伪造刑法规制，本质不是"罪名够不够"的问题，而是"全链式防控能否穿透 ASI 的自主生成能力"的问题：我国刑法目前没有针对深度伪造的专门罪名，司法实践依托既有罪名体系按"行为链条"涵摄——上游数据获取（侵犯公民个人信息罪、非法获取计算机信息系统数据罪）、中游技术供给（帮助信息网络犯罪活动罪、非法利用信息网络罪）、下游内容滥用（诈骗罪、敲诈勒索罪、侮辱罪、诽谤罪、制作/传播淫秽物品牟利罪、编造故意传播虚假信息罪、危害国家安全类犯罪）分别评价，平台另依《深度合成管理规定》的行政前置义务追责 。《中国法学》2026 年第 3 期刘期湘的文章确立的"全链式刑事治理模式"——在技术研发与信息获取阶段精细化治理，在技术运用阶段对使用行为独立评价与分类处置，在生成物传播阶段加强后果治理与罪名优化 ——精准匹配了 ASI 时代深度伪造"因果链稀释、责任主体分散"的新挑战。绍兴上虞法院对 AI 编造灾情视频以编造、故意传播虚假信息罪入刑 ，标志着司法实践已经启动对 ASI 生成虚假内容的刑事响应。跨国层面，英国 2025 年修法把"开发用于生成儿童性虐待内容的 AI 模型"本身入刑 ，法国瑞典将 AI 深度伪造色情明确为"新型数字性暴力" ，加拿大出台专项《深度伪造色情内容法案》构建刑民双轨 ，美国半数以上州已立法规制非自愿 AI 色情 ——全球正在形成"前端行为犯罪化 + 平台责任加重 + 刑民双轨追责"的立法趋势。这道门，ASI 推得开，但只推得开一条缝——这条缝的宽度，恰好等于"上游数据合法来源 × 中游技术供给明知抗辩 × 下游内容标识水印 × 平台分级责任 × 人类控制举证"的全链式交集。
⚠️ 必须正视的五点：
- 我国无深度伪造专门罪名——司法实践依托既有罪名体系按行为链条涵摄，这是《中国法学》刘期湘文章明确的现状
- ASI 让因果链稀释——自主批量生成 + 多平台自动分发 + 跨境传播，传统线性因果链被打散，归责难度陡增
- 2026 年新规的显式标识是行政合规底线——《深度合成管理规定》第 17 条要求文本、音频、图片、视频、虚拟场景分别添加显著提示标识，违反即触发第 22 条的行政直至刑事责任
- 刘宪权主张"技术包容"谦抑立场——不应将间接故意传播深度伪造内容纳入刑法规制，避免挤压合法表达空间
- 跨国刑事合规压力剧增——英国已将"持有、开发用于生成 CSAM 的 AI 模型"入刑（最高 5 年），欧盟 AI 法案对提供者的最高罚款为全球营业额 6% 或 3000 万欧元，ASI 跨国运营必须满足最严法域标准
ASI 企业深度伪造刑事合规的路标已经清晰：以《刑法》既有罪名体系按行为链条涵摄为底线 、以《深度合成管理规定》的标识/实名/安全评估为行政前置 、以刘期湘"全链式刑事治理"为学理框架 、以刘宪权"技术包容谦抑 + 生物识别信息入刑 + 网络服务提供者分级责任"为立法完善方向 、以英国前端行为犯罪化与欧盟平台重责为跨国对标 。在这五块基石之上，超级智能企业能够在 ASI 时代建立"上游数据合法来源 × 中游技术供给明知抗辩 × 下游内容标识水印 × 平台分级责任 × 人类控制举证"的深度伪造刑事合规体系——但这不是因为 ASI "够自觉"，而是因为掌握 ASI 的人类主体，在《刑法》与《深度合成管理规定》的双重约束下，通过"全链式防控"的复合机制，兑现"智能即工具、生成即人类责任、创新与法治共担"这一超级智能时代深度伪造刑法规制的实质承诺。
💡 给 ASI 企业的深度伪造刑事合规优先级建议：
第一优先（立即执行）：严格遵循《深度合成管理规定》第 17 条的显式标识要求，在文本、音频、图片、视频、虚拟场景的生成出口强制添加显著提示标识 ；建立训练数据生物识别信息的"知情—同意"审计台账，落实《个人信息保护法》敏感个人信息单独同意要求；建立 ASI 决策日志全链路留存（prompt → 推理 → 生成 → 分发），满足欧盟 AI 法案第 12 条终身留存要求；在 ToS 中明确禁止用于深度伪造违法内容，对 API 调用方实施 KYM（Know Your Model）实名认证与用途审查。
第二优先（2026 年内）：建立"分级责任"内部治理架构——大型平台承担更重审核/标识/追溯/报告义务，中型平台承担合理注意义务 + 通知后快速处置，工具类服务承担实名 + 用途声明 + 异常上报；对可疑的"换脸/克隆"批量调用建立预警与熔断机制；在 ASI 批量生成涉及人物肖像/声音的内容前设置"人在回路"人工确认节点；保留 prompt 工程与系统指令的完整版本，作为刑事辩护中"不具备犯罪故意"的关键证据。
第三优先（2027 前）：对接欧盟 AI 法案的提供者义务（允许检测合成虚假内容的设计 + 数字水印 + 监督问责机制），避免最高全球营业额 6% 或 3000 万欧元罚款 ；参照英国《犯罪与警务法案》的前后端双控思路，建立内部"CSAM 模型权重筛查"机制；参与 WAICO 框架下的深度伪造跨国刑事司法协作；关注刘宪权提出的"在侵犯公民个人信息罪中增设'非法使用'行为类型"的司法解释动向 ，提前自查合规缺口。
持续动作：ASI 生成内容传播后定期巡检，发现涉诈/涉黄/涉政深度伪造内容立即触发平台处置 + 行政报告 + 刑事报案通道；跨国运营时，境外 ASI 生成内容在境内传播的，境内运营主体须承担"属地管辖"下的合规义务；定期审计 ASI 生成pipeline的标识水印覆盖率，每季度抽样复盘；关注各法域深度伪造专门立法动态（美国半数以上州已立法 ，法国瑞典将 AI 深度伪造色情明确为新型数字性暴力 ，加拿大《深度伪造色情内容法案》刑民双轨 ），确保合规框架动态更新。
ASI 时代的深度伪造刑法规制，本质是一场"智能生成能力"与"刑事法底线"的法学调和。技术事实层面，ASI 能够自主批量生成以假乱真的音视频、跨平台自动分发、跨境传播且因果链稀释；但刑法规范层面，《刑法》既有罪名体系按行为链条的精准涵摄 、《深度合成管理规定》的标识/实名/安全评估行政前置 、刘期湘"全链式刑事治理模式"的学理框架 、刘宪权"技术包容谦抑"的归责边界 、英国前端行为犯罪化与欧盟平台重责的跨国对标 、绍兴上虞法院编造传播虚假信息罪入刑的司法实践 ，共同构筑了一道不可逾越的刑事法边界：ASI 生成深度伪造内容的刑事规制，必须由人类通过"全链式防控"的法律机制来赋予。超级智能企业作为 ASI 的主要载体，必须通过工程化手段将"AI 自治"关进"刑法"的笼子——这，才是 ASI 时代深度伪造刑法规制的终极答案。
ASI 可以改变虚假内容的生成方式，但不能改变"生成即人类责任"的刑法底线；AI 可以自主批量制造以假乱真的音视频，但刑事制裁的矛头必须穿透到掌握 ASI 的人类主体。在"智能爆炸"与"刑事法秩序"之间，人类主体必须牢牢握住"全链式防控"的最终控制权——这，就是超级智能时代 AGI/ASI 深度伪造刑法规制的真正出口。
| 
