AGI与ASI算法治理立法：超级智能时代算法推荐管理规定修订方向

一、修订的方法论：从"补丁式治理"到"体系化规制"

⚖️ "我国通过算法推荐、深度合成、生成式人工智能、拟人化人工智能等一系列专项治理规则，逐步形成以敏捷治理为特征的人工智能治理路径……在人工智能专门立法尚未形成系统框架之前，亟需推动人工智能专项规则与《个人信息保护法》深度衔接，通过明确规则接口、强化适用与激活既有法律原则，提升治理体系的整体协调性。"

💡 "我国算法治理仍存隐忧……个别平台存在'选择性整改''别人不改我不改'等问题，使算法治理陷入处罚后反弹、反弹后再处罚的循环困局……算法治理的困境主要体现在三个方面：一是算法技术壁垒使外部监管难以穿透平台内部的运行逻辑；二是以'正面清单'为主的传统治理模式偏重原则性倡导，难以形成实质性制度约束。"

1. 从原则倡导走向具体规制，从"事后纠偏"迈入"事前划界"——2026 年 1 月《生活服务类平台算法负面清单（试行）》已标志着这一转向，截至 2026 年 5 月 19 家重点平台实施优化改进措施 63 项
2. 从分散部门规章迈向行政法规层面的系统集成——《互联网信息服务管理办法（修订草案征求意见稿）》设立"智能信息服务"专节，统摄原先分散的《算法推荐管理规定》《深度合成管理规定》《暂行办法》等规章规则

二、修订的七大方向

方向一：上位概念统摄——"智能信息服务提供者"入法

📌 "征求意见稿设立'智能信息服务'专节，意在以更具包容性的上位概念及相关制度，统摄原先分散的规章规则。这体现了体系化推进人工智能立法的趋势，将推动我国 AI 治理从专项规则迈向基础规则的系统集成。"

• 《算法推荐管理规定》的"算法推荐服务提供者"概念，扩展为《互联网信息服务管理办法》修订草案中的"智能信息服务提供者"
• 智能信息服务提供者涵盖：算法推荐服务、生成合成服务、智能体服务
• 原算法推荐规定的核心义务（公示、备案、反杀熟、用户选择权）被吸收升级为行政法规层面的刚性要求

方向二：透明度义务硬公示——从"告知"到"主动公示"

⚖️ "应用人工智能技术提供互联网信息服务的服务提供者应当遵循公平公正、公开透明和诚实信用原则，按照国家有关规定公示公开其相关技术的基本原理、目的意义、主要运行机制、训练数据来源等信息。"

方向三：备案闭环——安全评估+算法备案+变更/注销

💡 "提供具有舆论属性或者社会动员能力的互联网信息服务的智能信息服务提供者，应当按照国家有关规定开展安全评估，并履行算法备案和变更、注销备案手续。"

• 将原《算法推荐管理规定》第二十四条与《暂行办法》第十七条"合并升级"
• 企业常犯的错误是"只记得上线备案，却忘了下线也要及时备案"——修订草案通过行政法规层级强化变更/注销备案的强制性
• ASI 智能体的算法备案触发：具有舆论属性或社会动员能力的智能体服务，必须安全评估+算法备案+变更/注销备案

• 上线：安全评估 → 算法备案 → 获取备案号 → 显著位置公示
• 变更：算法原理、数据类型、输出形式、产品形态重大变更 → 10 个工作日内变更备案
• 注销：产品终止服务 → 20 个工作日内注销备案

方向四：事前负面清单划界——从"正面清单"到"负面清单"

⚖️ "以'正面清单'为主的传统治理模式偏重原则性倡导，难以形成实质性制度约束。"

1. 不得强制用户使用智能信息服务
2. 不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序
3. 不得控制热搜或者精选等干预信息呈现
4. 不得实施扰乱网络舆论或者规避监督管理行为
5. 不得将含有法律、行政法规禁止内容的信息和不良信息作为关键词记入用户兴趣点或者作为用户标签并据以推送信息内容

• 禁止智能体自主执行超越用户授权范围的敏感操作
• 禁止智能体通过工具调用规避监管
• 禁止智能体在舆论引导、社会动员场景中未经人工确认自主决策

方向五：智能体专项条款——全流程行为留痕

📌 "提供智能体服务的智能信息服务提供者，应当使用符合国家规定的智能体，建立安全管理制度及相应技术管控能力。"

💡 "2026 年国内密集出台系列规范性文件，AI 监管重心从通用大模型风险管控转向智能体自主行为、全流程运行轨迹规制……国家网信办等三部门联合印发《智能体规范应用与创新发展实施意见》，作为智能体专项核心监管文件，划定智能体跨平台访问、自主工具调用等高风险行为监管红线，明确全流程行为留痕、可追溯合规义务。"

1. 决策三分法：厘清用户本人决策、用户授权决策、智能体自主决策的边界与权限
2. 最终决策权：用户对智能体自主决策享有知情权和最终决策权
3. 行为围栏：感知、决策、执行环节建立权限管控，确保操作不超出用户授权范围
4. 全链路审计：建立全流程行为留痕、可追溯合规义务
5. 分类分级治理：敏感领域及重点行业实行备案、检测、问题产品召回

方向六：场景化权益保护升级

"提供算法推荐服务的智能信息服务提供者，应当按照国家有关规定建立完善人工干预和用户自主选择机制，并向用户提供不针对个人特征的选项，或者向个人提供便捷的拒绝方式等功能，不得强制用户使用智能信息服务。"

• "不得强制用户使用智能信息服务"是新增硬义务——直接回应 ASI 时代"AI 默认开启、用户被动接受"的痛点
• 人工干预机制从"软要求"升格为"硬性制度"

"智能信息服务提供者向劳动者提供工作调度等服务的，在劳动者招聘、调度、考核等环节，应当遵循合法、正当和必要的原则获取劳动者相关数据，确保订单分配、报酬支付、工作时间等算法透明、公平、合理……新增或者变更主要算法规则，应当向劳动者公开征求意见，充分听取相关方的意见建议，评估其对劳动者合法权益的影响，并在实施前通过显著方式予以公示，不得损害劳动者合法权益。"

• 算法规则变更前必须向劳动者公开征求意见——这是修订草案的重大制度创新
• 订单分配、报酬支付、工作时间等必须算法透明、公平、合理

• 禁止大数据杀熟（交易价格不合理差别待遇）
• 未成年人模式与防沉迷
• 老年人适老化与反诈保护

方向七：与《个保法》及未来《人工智能法》深度衔接

💡 "在人工智能专门立法尚未形成系统框架之前，亟需推动人工智能专项规则与《个人信息保护法》深度衔接，通过明确规则接口、强化适用与激活既有法律原则，提升治理体系的整体协调性，为人工智能立法奠定坚实基础。"

• 《算法推荐管理规定》修订时，应明确与《个保法》的规则接口：算法自动化决策与《个保法》第二十四条的算法解释权、拒绝纯自动化决策权的衔接
• 与未来《人工智能法》的衔接：算法备案、安全评估、透明度义务等核心制度应作为《人工智能法》的基础性制度保留并升级
• "十五五"规划纲要明确："健全算法备案、透明度管理、安全评估等制度"

三、ASI 场景的修订增量

增量一：从"信息推荐"到"行为决策"的监管扩展

• 算法推荐 → 行为决策
• 用户画像 → 环境建模
• 内容排序 → 任务规划与工具调用
• 信息茧房 → 行为围栏与权限管控

增量二：动态备案与持续评估

• 模型重要更新、升级后重新安全评估
• 智能体新增工具调用、API 接入、第三方插件时触发变更备案
• 跟踪审查间隔一般不超过 12 个月，纳入复核清单的高风险活动不超过 6 个月（参照《科技伦理审查与服务办法》）

增量三：关键节点人工确认

• 身份信息调用
• 支付授权
• 对外发送个人资料
• 生成对个人权益有重大影响的判断结果
• 舆论引导与社会动员场景的自主决策

增量四：算法负面清单的场景化扩展

• 禁止算法自我优待与不正当竞争
• 禁止智能体通过工具调用规避监管
• 禁止利用 ASI 实施价格歧视、身份歧视
• 禁止诱导未成年人非理性消费、操控公众认知

四、修订后的制度体系框架

AGI/ASI 算法治理修订后的制度体系
    │
    ├─ 第一层：行政法规（上位统摄）
    │   └─ 《互联网信息服务管理办法》（修订后）
    │       ├─ "智能信息服务"专节（第56-63条）
    │       ├─ 智能信息服务提供者概念统摄
    │       ├─ 透明度硬公示（第56条）
    │       ├─ 安全评估+算法备案+变更/注销（第57条）
    │       ├─ 人工干预+用户自主选择+禁止强制使用（第61条）
    │       ├─ 劳动者算法公平（第62条）
    │       └─ 智能体安全管理（第63条）
    │
    ├─ 第二层：部门规章（专项细化）
    │   ├─ 《互联网信息服务算法推荐管理规定》（修订）
    │   │   └─ 聚焦：算法备案操作细则、负面清单、场景化权益保护
    │   ├─ 《生成式人工智能服务管理暂行办法》（修订）
    │   │   └─ 聚焦：训练数据合规、生成内容安全、模型备案
    │   ├─ 《互联网信息服务深度合成管理规定》（修订）
    │   │   └─ 聚焦：深度合成标识、单独同意
    │   └─ 《人工智能生成合成内容标识办法》
    │       └─ 聚焦：显式标识+隐式标识双轨制
    │
    ├─ 第三层：综合性立法（未来）
    │   └─ 《人工智能法》（国务院2026年度立法工作计划部署）
    │       └─ 统摄算法治理、数据治理、伦理审查、责任分配
    │
    └─ 第四层：标准与伦理
        ├─ TC260《生成式人工智能服务安全基本要求》（TC260-003）
        ├─ TC260《人工智能应用伦理安全指引1.0》
        ├─ 《人工智能科技伦理审查与服务办法（试行）》
        └─ 《智能体规范应用与创新发展实施意见》

五、简短的结论

⚠️ 必须正视的六点：

1. 修订的现实路径是"被吸收升级"而非"单独大修"——《互联网信息服务管理办法（修订草案征求意见稿）》设立"智能信息服务"专节，将《算法推荐管理规定》《暂行办法》等规章规则上升为行政法规层面的刚性要求
2. 透明度义务从"告知"升级为"主动公示"——修订草案第 56 条要求公示技术的基本原理、目的意义、主要运行机制、训练数据来源​
3. 备案闭环是修订的核心抓手——修订草案第 57 条将安全评估+算法备案+变更/注销备案合并升级，企业"只记得上线备案、忘了下线备案"的漏洞被封堵
4. 事前负面清单划界取代正面清单倡导——2026 年 1 月《生活服务类平台算法负面清单（试行）》标志着算法治理从"事后纠偏"迈入"事前划界"
5. 智能体专项条款是 ASI 场景的最大增量——修订草案第 63 条要求智能体服务建立安全管理制度及技术管控能力；《智能体实施意见》进一步明确全流程行为留痕、可追溯
6. 与《个保法》及未来《人工智能法》深度衔接是修订的方法论——人民网明确：亟需推动人工智能专项规则与《个保法》深度衔接；《国务院2026年度立法工作计划》部署加快推进人工智能综合性立法