ASI与AGI算法备案与安全评估：超级智能合规上市的双重门槛

一、先判断：你的系统触发哪几道门槛

⚠️ 关键判断：ASI 智能体若具备自主感知、记忆、决策、交互、执行能力，且应用于科研、生产、消费等领域，因其"高自主性、高权限"带来的复杂安全风险 ，几乎必然落入"具有舆论属性或社会动员能力"的认定范围——安全评估 + 算法备案 + 大模型备案/登记是底线义务。

二、第一道门槛：安全评估（上线前前置，未评估不得备案）

2.1 法定要求

2.2 评估核心内容

• 来源安全：单一来源语料含违法不良信息超 5% 不应采集；采集后核验仍超 5% 不应使用
• 内容安全：知识产权负责人 + 个人信息同意 + 敏感信息单独同意
• 标注安全：人员/规则/内容/隔离存储
• 量化指标：人工抽检≥4000 条合格率≥96%；技术抽检≥10% 合格率≥98%

• 第三方基础模型须已备案
• 生成内容安全/准确性/可靠性
• 测试题库与拒答题库建设（每月更新）

• 决策权限三分法：用户本人决策 / 用户授权决策 / 智能体自主决策的边界与权限
• 行为围栏：感知、决策、执行环节权限管控，确保操作不超出用户授权范围
• 全链路审计与追溯：防范数据投毒、隐私泄露及系统运行失控
• 供应链安全：模型接入、API 调用、扩展工具使用环节安全管理
• 分类分级治理：敏感领域及重点行业实行备案、检测、问题产品召回

2.3 评估报告三签字

1. 单位法定代表人
2. 整体负责安全评估工作的负责人（单位主要管理者或网络安全负责人）
3. 合法性评估部分的负责人（单位主要管理者或法务负责人）

2.4 触发重新评估的情形

• 模型重要更新、升级
• 上线具有舆论属性或社会动员能力的新产品、新应用和新功能
• 使用新技术、新应用导致服务发生重大变化
• 注册用户 100 万以上或月活跃用户 10 万以上（拟人化互动服务）

三、第二道门槛：算法备案（beian.cac.gov.cn）

3.1 法定时限与入口

⚖️ "具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。"

3.2 核心备案材料

1. 《算法备案承诺书》——法定代表人签字 + 加盖公章
2. 《落实算法安全主体责任基本情况》——组织架构、专职人员配置、安全管理制度、应急响应流程
3. 《算法安全自评估报告》——核心中的核心，覆盖数据安全、模型安全、内容合规、用户权益、风险防控、应急响应 6 大维度
4. 《拟公示内容》——算法名称、应用领域、核心功能、基本原理、运行机制

3.3 算法类型必须选准

• 文本/图像/音频/视频生成 → 生成合成类
• 用户画像与个性化服务 → 个性化推送类
• 内容审核与敏感词过滤 → 检索过滤类
• 智能体自主调度与决策 → 调度决策类

3.4 审核与公示

3.5 变更与注销

• 备案信息变更：变更之日起十个工作日内办理变更手续
• 终止服务：终止服务之日起二十个工作日内办理注销备案手续

四、第三道门槛：大模型备案 / 登记（并行于算法备案）

4.1 备案与登记的区分

4.2 备案流程（省级网信 → 国家网信）

1. 向省级网信部门报备，获取备案表
2. 企业准备材料 + 编写安全评估报告 + 准备测试账号
3. 提交省级网信部门审核
4. 省级材料审核及技术测试（安全测试），通过后上报国家网信部门
5. 国家网信部门材料复审及技术评审
6. 通过后下发备案号，官网公示

4.3 上线后公示义务

💡 "已上线的生成式人工智能应用或功能，应在显著位置或产品详情页面公示所使用已备案或登记生成式人工智能服务情况，注明模型名称、备案号或上线编号。"

五、ASI 智能体的双重门槛升级

升级一：决策权限三分法与最终决策权

💡 "厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权，智能体执行操作不得超出用户授权范围。"

升级二：行为围栏与可追溯

💡 "发展规则内嵌、行为围栏等技术，确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。探索利用区块链等技术，建立重要应用场景智能体行为可验证、可追溯机制。"

升级三：分类分级治理

• 敏感领域及重点行业（金融、医疗等）：备案、检测、问题产品召回
• 低风险领域（生活娱乐、日常办公等）：合规自测、信息报告、分发平台管理、行业自律

六、未过双重门槛的法律后果

• 未按照《暂行办法》规定向网信部门履行备案登记程序，存在"应备未备"情形
• AI 平台安全和审核过滤能力不足，缺乏安全围栏机制
• 训练语料审核把关不严，模型训练数据存在违法不良信息
• AI 数据投毒问题
• 生成合成内容标识落实不到位
• 滥用 AI 技术开展违法违规活动
• 开源模型安全管理不到位

⚖️ "由有关主管部门依据《网络安全法》、《数据安全法》、《个人信息保护法》、《科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。"

七、操作框架：AGI/ASI 合规上市的双证六步

第一步：触发判断
  ├─ 是否具有舆论属性或社会动员能力？→ 是 → 安全评估+算法备案+大模型备案/登记
  ├─ 是否自研大模型上线？→ 是 → 大模型备案
  ├─ 是否调用已备案大模型 API？→ 是 → 大模型登记
  ├─ 是否提供深度合成？→ 是 → 深度合成算法备案+安全评估
  └─ 是否 ASI 智能体用于敏感领域？→ 是 → 智能体专项备案+检测+召回

第二步：安全评估先行（未评估不得备案）
  ├─ 语料安全（5% 红线 + 量化指标）
  ├─ 模型安全（31 种风险覆盖 + 测试题库）
  ├─ 安全措施（9 项核对）
  ├─ ASI 专项：决策三分法+行为围栏+全链路审计+供应链安全
  └─ 三签字评估报告

第三步：算法备案申报（beian.cac.gov.cn）
  ├─ 时限：提供服务之日起 10 个工作日内
  ├─ 主体信息填报（营业执照、法人、算法安全责任人）
  ├─ 算法信息填报（类型、原理、数据来源、风险防控）
  ├─ 产品/技术服务关联
  ├─ 四大核心材料（承诺书、主体责任、自评估报告、拟公示内容）
  └─ 审核：30 个工作日内备案发证+公示

第四步：大模型备案/登记并行
  ├─ 自研模型：备案表+安全评估报告+模型服务协议+语料标注规则+拦截关键词+评估测试题
  ├─ 调用 API：登记表+模型服务协议
  ├─ 省级网信审核 → 国家网信复审（备案）/ 省级单级审核（登记）
  └─ 通过后公示备案号/上线编号

第五步：ASI 智能体专项升级
  ├─ 决策三分法说明与最终决策权保障
  ├─ 行为围栏技术方案
  ├─ 全链路审计与追溯（区块链存证）
  ├─ 供应链安全管理
  └─ 分类分级治理适配（敏感领域备案检测召回）

第六步：上线后持续合规
  ├─ 显著位置公示备案编号与模型名称、备案号/上线编号
  ├─ 重大变更 10 个工作日内变更备案
  ├─ 产品终止 20 个工作日内注销备案
  ├─ 模型重要更新升级后重新安全评估
  └─ 配合"清朗·整治 AI 应用乱象"等专项监管

八、简短的结论

⚠️ 必须正视的六点：

1. 安全评估是备案的前置条件——《暂行办法》第十七条明确"先安全评估，再算法备案"
2. 算法备案有时限硬约束——提供服务之日起 10 个工作日内通过 beian.cac.gov.cn 申报；备案信息变更 10 个工作日内变更；终止服务 20 个工作日内注销
3. 大模型备案与登记并行不悖——自研大模型走备案（省级→国家两级审核）；调用已备案大模型 API 走登记（省级单级审核）
4. "双备案"已成监管实务框架——算法备案侧重算法机制机理审查，大模型备案侧重内容安全与价值观对齐
5. ASI 智能体必须叠加行为围栏与全链路可追溯——2026《实施意见》要求决策三分法、行为围栏、区块链存证、供应链安全
6. "应备未备"已被列入"清朗·整治 AI 应用乱象"专项行动第一类重点——未备案/未登记即提供 AIGC 服务将面临约谈、行政处罚、应用下架、域名封堵等执法措施