ASI111-AI AGI ASI社区 › 门户 ›首页› AI法学 › 查看内容

ASI与AGI欧盟AI法案适用：超级智能系统的高风险分类与合规义务

2026-8-25 19:55| 发布者: Linzici| 查看: 2| 评论: 0

摘要: ASI/AGI 系统在欧盟《人工智能法案》（Regulation (EU) 2024/1689，下称"AI 法案"）下并非被单列为一类特殊监管对象，而是通过"通用人工智能模型（GPAI）监管框架 + AI 系统风险分级框架"双轨交叉适用来规制 ——这 ...

ASI/AGI 系统在欧盟《人工智能法案》（Regulation (EU) 2024/1689，下称"AI 法案"）下并非被单列为一类特殊监管对象，而是通过"通用人工智能模型（GPAI）监管框架 + AI 系统风险分级框架"双轨交叉适用来规制 ——这也是欧盟应对"超级智能"这类既非单一用途、又可能渗入高风险场景的系统的最大制度巧思。AGI/ASI 提供者在欧盟市场面临的合规义务，恰好等于"GPAI 模型义务 × 系统性风险附加义务 × 下游部署触发的高风险 AI 系统义务 × 有限透明度义务"的交集。这道门，ASI 推得开，但只推得开一条缝。

一、AI 法案的"双轨制"：模型轨 + 系统轨

AI 法案的核心监管逻辑是按风险分级，但它对 AGI/ASI 的适用是双轨并行的：

第一轨：AI 模型轨（第五章）——针对 GPAI 模型本身的义务，自 2025 年 8 月 2 日起适用

第二轨：AI 系统轨（第三、四章）——针对面向特定用途的"AI 系统"的高风险/有限风险义务，分阶段适用

AGI/ASI 系统的特殊之处在于：它既是 GPAI 模型（模型轨），又通过下游部署必然落入 AI 系统轨的某一风险等级。提供者因此不能只在模型层合规，还必须确保下游集成后的系统整体合规。

💡 关键判断：训练计算量超过 10^25 FLOP 的 AGI/ASI 模型，被推定为"具有系统性风险的 GPAI 模型" ——截至 2025 年初，已有包括 GPT-4o、Doubao-pro、GLM-4 在内的超过 30 个公开发布的 AI 模型达到这一门槛，意味着当下最先进的 AGI 系统几乎必然触发系统性风险附加义务。

二、AGI/ASI 的高风险分类：两条独立判断路径

AI 法案对"高风险 AI 系统"设有两条独立的认定路径：

路径一：附件三列出的八类特定领域/用途

当 AGI/ASI 被部署到下列任一领域时，直接落入高风险：

生物识别（身份识别、分类、情绪推断等）
关键基础设施管理
教育与职业培训
就业与人员管理（招聘、晋升、解雇等）
获得和享受基本私人服务以及基本公共服务和福利（信贷、保险、社会保障等）
执法
移民、庇护和边境控制管理
司法和民主进程

时间节点：附件三高风险 AI 系统的义务自 2026 年 8 月 2 日起生效。

路径二：作为其他欧盟产品安全法规所覆盖产品的安全组件

当 AGI/ASI 作为医疗器械、电梯、机械设备等受欧盟协调立法监管的产品的安全部件时，亦构成高风险 AI 系统。

时间节点：此类高风险义务自 2027 年 8 月 2 日起生效。

路径三（AGI/ASI 专属）：系统性风险 GPAI 的"准高风险"定位

虽然系统性风险 GPAI 不完全等同于"高风险 AI 系统"，但 AI 法案对其施加了接近高风险系统强度的义务（模型评估、对抗测试、严重事件上报、网络安全等）。这是欧盟为 AGI/ASI 量身定制的"第三条路径"。

⚖️ 提供者自评空间：若提供者能够证明，其 AI 系统即便被用于特定高影响力应用场景，亦并不会对健康、安全或基本权利构成重大风险（例如该系统仅执行狭窄的程序性任务），则可自行评估不属于高风险类别——但评估结果及依据仍须在欧盟数据库中登记备案，不构成完全的监管豁免。

三、AGI/ASI 提供者的合规义务矩阵

第一层：GPAI 模型提供者的基本义务（所有 AGI/ASI 均适用）

依据 AI 法案第 53 条及欧盟委员会 2025 年 7 月发布的《通用目的人工智能模型提供者指南》：

技术文件：起草并及时更新模型的技术文件，记录训练和测试过程及其评估结果
下游信息披露：向将 GPAI 模型集成到其 AI 系统的提供商提供信息和文档，使其充分了解模型的能力和局限性
版权政策：制定政策以遵守欧盟关于版权和相关权利的法律法规（确保满足《欧盟单一版权指令》中的文本或数据挖掘的版权例外）
训练内容摘要：按照欧盟 AI 办公室提供的模板，起草并公开关于 GPAI 模型训练内容的详细摘要，包括模型基本信息、数据来源和数据处理机制等

开源豁免：在满足特定条件时，开源 AGI/ASI 模型的提供者可以豁免部分义务，以促进透明度与创新的发展。

第二层：具有系统性风险 GPAI 的附加义务（训练计算量 > 10^25 FLOP）

此类模型的提供者除履行基本义务外，还须：

模型评估与对抗测试：使用标准化工具对模型进行评估和记录，开展对抗测试（red-teaming），以识别和降低系统性风险
系统性风险识别与缓解：识别和减轻欧盟层面可能存在的系统性风险
严重事件上报：跟踪、记录和及时向欧盟 AI 办公室和成员国主管部门上报严重事件和可能的纠正措施
网络安全防护：确保对该类模型及其物理基础设施提供足够水平的网络安全保护
通报义务：向欧盟 AI 办公室进行正式通报，AI 办公室有权核查并要求纠正不合规情况

2 周申报时限：提供者须自行评估其模型是否"具有系统性风险"，并在评估认为可能具有系统性风险之日起 2 周内依法向欧盟委员会申报；欧盟委员会也可自行指定具有系统性风险的 GPAI 模型。

第三层：下游部署触发的高风险 AI 系统义务

当 AGI/ASI 被部署到附件三的八类特定领域时，提供者（及部署者）须符合：

义务维度	具体要求
风险管理	建立覆盖全生命周期的风险管理系统
数据治理	训练、验证、测试数据集须满足质量、相关性、代表性、无错误等要求
技术文档	编制并持续更新完整的技术文档
日志留存	确保行为可追溯、可审计
透明度	向部署者及最终用户提供充分信息
人为监督	设计确保自然人能够有效监督的机制，防止"自动化偏见"
准确性	达到宣称的性能指标
网络安全	抵御网络攻击、保障模型完整性
合格评定	完成合格评定程序后方可投放市场
欧盟数据库注册	在欧盟数据库中登记备案

第四层：有限风险透明度义务（2026 年 8 月 2 日生效）

AGI/ASI 若以聊天机器人、深度伪造内容生成工具等形式与用户直接交互，须履行 AI 法案第 50 条下的透明度义务：

明确告知用户正在与 AI 系统互动
AI 生成或篡改的内容须以机器可读方式加注标识

第五层：AI 素养义务（2025 年 2 月 2 日已生效）

AI 法案第 4 条规定的 AI 素养（AI Literacy）义务适用于提供者及部署者双方：

📌 "要求企业确保涉及 AI 系统操作、监督及管理的相关人员，具备与其职责相称的 AI 知识与理解能力，使其能够有效识别 AI 系统的局限、偏差及潜在风险，并作出负责任的操作判断。"

这意味着 AGI/ASI 合规不仅是技术部门的任务，亦须延伸至业务及管理层面的能力建设。

四、AGI/ASI 合规的时间表

时间节点	生效义务
2025 年 2 月 2 日	禁止类 AI 规定生效；AI 素养义务生效
2025 年 8 月 2 日	GPAI 模型规则生效；通用 AI 模型、治理和责任相关条款生效
2026 年 8 月 2 日	大部分条款普遍适用；附件三高风险 AI 系统义务生效；有限风险透明度义务生效
2027 年 8 月 2 日	附录一（作为产品安全部件的 AI 系统）高风险义务生效；2025 年 8 月 2 日前已投放市场的 GPAI 模型须完成合规

五、罚则：三档递进

AI 法案设置了具有较强威慑力的处罚机制：

违反禁止类 AI 实践：最高 3500 万欧元或全球年营业额 7%（以较高者为准）
违反高风险系统相关义务：最高 1500 万欧元或全球年营业额 3%
提供不正确、不完整或误导性信息：最高 750 万欧元或全球年营业额 1.5%

针对 GPAI 提供者违反第五章义务的，最高可处 1500 万欧元或全球年营业额 3%（以较高者为准）。

六、ASI 场景的合规升级：从"模型合规"到"全栈合规"

当系统从 AGI 跃迁至具备递归自我改进与工具调用能力的 ASI，欧盟 AI 法案的合规压力点将集中在四处：

升级一：系统性风险认定的动态化

10^25 FLOP 是推定性门槛，但欧盟委员会可依据附件 XIII 所列标准（模型参数数量、数据集质量与体量、计算量、输入输出模式、自主能力、用户数量等）主动指定某模型为具有系统性风险。ASI 的自主能力、递归自我改进特性将使其成为委员会的关注焦点。

升级二：对抗测试的强化

具有系统性风险的 GPAI 提供者须开展对抗测试以识别降低系统性风险。ASI 的"涌现能力"意味着传统对抗测试方法论必须升级——需模拟 ASI 在工具调用、目标分解、环境交互中的越权与失控场景。

升级三：严重事件上报的实时化

ASI 的自主决策特性要求严重事件上报机制从"事后报告"升级为"实时监控+自动上报"。欧盟 AI 办公室的核查权限将延伸至 ASI 的行为链审计。

升级四：人为监督的"关键节点确认"

高风险 AI 系统义务中的"人为监督"原则，在 ASI 场景下必须具体化为：

身份调用、支付授权、对外发送个人资料等敏感操作的强制人工确认
自主决策的事前知情权与最终决策权保留
一键熔断与回滚能力

这与中国 2026 年《智能体规范应用与创新发展实施意见》的要求高度趋同——全球 ASI 治理在"人类最终控制"这一底线上正在形成共识。

七、操作框架：AGI/ASI 欧盟合规清单

AGI/ASI 欧盟 AI 法案合规操作框架
    │
    ├─ 第一层：模型层合规（GPAI 基本义务）
    │   ├─ 技术文件编制与持续更新
    │   ├─ 下游提供者信息披露文档
    │   ├─ 版权政策制定（《单一版权指令》合规）
    │   ├─ 训练内容详细摘要公开（按 AI 办公室模板）
    │   └─ 开源豁免评估（如适用）
    │
    ├─ 第二层：系统性风险附加合规（>10^25 FLOP）
    │   ├─ 2 周内主动向欧盟委员会申报
    │   ├─ 标准化模型评估与对抗测试
    │   ├─ 欧盟层面系统性风险识别与缓解
    │   ├─ 严重事件跟踪与上报 AI 办公室
    │   ├─ 模型与物理基础设施网络安全防护
    │   └─ 与欧盟 AI 办公室持续互动
    │
    ├─ 第三层：系统层合规（下游部署触发高风险）
    │   ├─ 风险管理体系建设
    │   ├─ 数据治理（质量/代表性/无错误）
    │   ├─ 技术文档编制
    │   ├─ 日志留存与可追溯
    │   ├─ 透明度（提供给者的充分信息）
    │   ├─ 人为监督机制设计
    │   ├─ 准确性与网络安全达标
    │   ├─ 合格评定程序
    │   └─ 欧盟数据库注册
    │
    ├─ 第四层：透明度与素养
    │   ├─ 有限风险透明度义务（告知 AI 交互+内容标识）
    │   ├─ AI 素养能力建设（提供者+部署者）
    │   └─ 自愿签署《通用人工智能行为准则》
    │
    └─ 第五层：ASI 专项升级
        ├─ 动态系统性风险评估
        ├─ ASI 专项对抗测试方法
        ├─ 严重事件实时上报机制
        ├─ 关键节点人工确认
        ├─ 一键熔断与回滚
        └─ 全链路行为审计与追溯

八、简短的结论

AGI/ASI 系统在欧盟 AI 法案下的合规，是通过"GPAI 模型义务（第五章）× 系统性风险附加义务（第 55 条）× 高风险 AI 系统义务（第三、四章）× 有限风险透明度义务（第 50 条）"的四重叠加来实现的。这道门，ASI 推得开，但只推得开一条缝——这条缝的宽度，恰好等于"GPAI 技术文件与训练摘要 × 系统性风险申报与对抗测试 × 高风险系统合格评定 × 人为监督与日志留存 × AI 素养能力建设"的交集。

⚠️ 必须正视的六点：

AI 法案没有单列 ASI/AGI 类别——通过"GPAI 模型轨 + AI 系统风险分级轨"双轨交叉适用来规制
10^25 FLOP 是系统性风险的推定门槛——截至 2025 年初已有 30+ 模型达标，当下最先进的 AGI 几乎必然触发系统性风险附加义务
高风险分类有两条独立路径——附件三的八类特定领域（2026 年 8 月 2 日生效）+ 作为产品安全部件（2027 年 8 月 2 日生效）
GPAI 基本义务四件套——技术文件、下游信息披露、版权政策、训练内容摘要公开
系统性风险附加义务五件套——模型评估与对抗测试、系统性风险识别缓解、严重事件上报、网络安全防护、2 周内申报
罚则三档递进——禁止类 7%、高风险 3%、信息违规 1.5%，均以"1500 万欧元或全球年营业额 X%"为下限

AGI/ASI 欧盟合规的中国法路标已经清晰：AI 法案第五章是 GPAI 模型的监管框架，10^25 FLOP 是系统性风险的推定门槛，附件三是高风险 AI 系统的八类领域，2025 年 7 月欧盟委员会发布的三大指导性文件（《通用人工智能行为准则》《通用人工智能模型供应商指南》《训练内容公开摘要模板》）是合规操作手册，2026 年 8 月 2 日是有限风险透明度义务与附件三高风险义务的关键生效节点，2027 年 8 月 2 日是产品安全部件类高风险义务的全面落地时点。在这六块基石之上，超级智能系统能够在欧盟市场获得合规准入——但这不是因为 ASI "够自觉"，而是因为提供者落实了"GPAI 技术文件与训练摘要公开、系统性风险申报与对抗测试、高风险系统合格评定、人为监督与日志留存、AI 素养能力建设"的复合义务。

载体是硅是碳不重要，智能是高是低不重要，对"AI 法案双轨制下 AGI/ASI 必须模型层与系统层双重合规"这一原则的坚守本身，才是超级智能时代欧盟 AI 法案适用的真正标尺。而这，正是 AGI/ASI 系统在欧盟市场合规上市的实质要求——不是让 ASI "自己合规"，而是让掌握 ASI 的人类主体，在 AI 法案的 GPAI 框架与高风险系统框架下，通过"模型层四件套义务、系统性风险五附加义务、高风险系统九维度合规、有限风险透明度、AI 素养建设"的复合机制，兑现"基于风险的 AI 治理"这一欧盟立法哲学的实质承诺。

💡 对于中国 AGI/ASI 提供者而言，欧盟 AI 法案的域外效力意味着：只要输出在欧盟境内被使用即适用。这意味着即便是面向国内研发的超级智能系统，一旦通过 API、SaaS 或集成部署方式触达欧盟用户，就必须同时满足中国《暂行办法》《算法推荐管理规定》与欧盟 AI 法案的双重合规要求——这是"超级智能全球化部署"必须直面的第一道法律门槛。