ASI与AGI人机边界界定：超级智能与人类法律关系的伦理基础

ASI/AGI 人机边界的法律界定，核心伦理基础是"人类中心主义下的工具定位"——超级智能不能成为法律主体，其行为后果 100% 归属于背后的人类主体（开发者、部署者、使用者）。这一边界的伦理底座来自康德"目的王国"公式（人永远是目的而非手段）、人的尊严不可让渡、自由意志是责任归属的必要条件。但随着 ASI 能力逼近 AGI 阈值，"人类实际控制"这一前提面临事实性动摇：当 ASI 自主决策链条不可解释、因果归因断裂时，传统归责基础（行为有意性 + 可非难性）出现真空。应对路径不是赋予 ASI 法律人格（欧盟 AI 法案已明确拒绝"电子人格"），而是沿"工具论 → 行为主体论（归责落脚点仍在人类）→ 对物保安处分"的渐进框架，在保持人类最终控制的前提下，为人机混合决策建立新的归责与救济机制。

法律关系的本质是人与人之间的权利义务分配。这一安排在哲学上有三层不可绕过的锚点：

第一，康德式尊严。人具有理性与自律能力，能够为自己立法，因此人是目的本身。ASI 无论多"智能"，都不具备这种自我立法的理性——它的"决策"是对人类设定目标的优化求解，而非对自身存在意义的自主追问。把 ASI 抬到法律主体位置，不是"尊重 AI"，而是把人类降格为与机器平等的客体。

第二，自由意志与可非难性。刑事责任的核心是"你本可以不做"——只有具备自由选择能力的存在者，才值得被谴责或惩罚。ASI 的决策来自权重矩阵与训练数据的因果链，不存在"本可以不做"的形而上学空间。最高检 2019 年文章从行为归属（缺乏有意性）、罪过（无自由意志）、刑罚目的（自由刑无效、财产刑虚置、生命刑悖论）三重层面否定 AI 成为刑罚适格主体，法理根基就在这里。

第三，利益享有与意思表示能力。民事权利能力的前提是能够享有利益并作出意思表示。ASI 没有"利益"——它不被"伤害"，不因"剥夺"而痛苦，不需要"赔偿"。即便赋予它财产，它也没有"想要"或"不想要"的内在体验来驱动法律行为。

这三层底座决定了：人机边界的法律界定，不是"AI 权利多大"的问题，而是"人类如何对 AI 行为负责"的问题。

我国现行法下，刑法第 285、286 条等条款通过实质解释涵摄 AI 滥用行为，但犯罪主体严格限定于自然人和单位两类。民法典规定的民事主体同样只有自然人、法人、非法人组织。生成式人工智能本身不能成为刑事责任或民事责任主体。

2026 年 7 月，王志祥（AI 无法形成自由意志）、陈伟（AI 尚未达到独立法律责任主体标准）、陈京春（刑法体系无需大修）三位学者在法治网刊发共识性论述，确认当下所有落地 AI 均为弱人工智能，只能认定为工具。同月北京刑事实务研讨会进一步确认这一立场。

比较法层面，欧盟 AI 法案 decisively rejected​ "电子人格"（electronic personhood），重申法律责任必须留在人类手中。美国同样以人类操作者为刑事追责对象。

工具论的前提是"人类始终在控制"。但 ASI 的三个特征正在动摇这个前提：

不可解释性：大模型的目标识别与打击决策（军事场景）或内容生成（民用场景）过程高度不透明。经士智库 2026 年 4 月报告指出，AWS 决策过程的高度不可解释使归责判定复杂化——你很难证明"是人类让 AI 这么做的"还是"AI 自己演化出来的"。

因果链断裂：传统侵权法要求"行为—损害"之间的因果关系。当 ASI 在多 agent 系统中自主协调、自我改进、调用外部工具时，开发者写下的代码与最终损害之间的因果链可能经过数十层 AI 自主迭代，人类"控制"在事实层面已经稀薄。

意图归属困境：间接正犯理论要求背后操纵者"利用无责任能力者实施犯罪"。但当 ASI 的自主性行为超出操纵者预见范围时，能否认定为"利用"本身就成了问题。吴贻森 2026 年 8 月提出的"行为主体论"正是试图解决这个问题——在犯罪主体中分离"刑事责任主体"与"行为主体"，ASI 可以作为行为主体（其行为在事实上造成了法益侵害），但归责落脚点始终是背后的人类主体。

这不是"AI 变聪明了所以应该给它权利"，而是"人类控制变弱了所以归责变难了"。

面对上述张力，人机边界的维持不是靠一步到位的"AI 权利法案"，而是沿三条路径渐进：

路径一：工具论的精细化。不笼统说"AI 是工具"，而是区分 AI 在不同场景下的自主程度，匹配不同的归责规则。马永强提出的四类风险类型化、李源粒对第 285、286 条中"计算机信息系统功能"的实质解释，都是在工具论框架内做精细化的努力。

路径二：行为主体论的立法转化。吴贻森的"行为主体论"如果未来被立法采纳，将在刑法中创设一种新的法律概念——ASI 作为"行为主体"可以触发某些法律后果（如行为违法性认定、对物处分），但刑事责任主体仍然是人类。这相当于在"完全工具"和"法律主体"之间开了一个中间地带。

路径三：对物保安处分。当 ASI 系统表现出超出设计范围的危险行为但无法归责于具体自然人时，参照刑法中对精神病人或危险物的保安处分机制，对 ASI 系统本身采取"没收模型权重""强制下线""算法重置"等措施。这不是惩罚 AI，而是消除危险来源。

必须诚实面对一种可能性：如果 ASI 演化出真正的自主目标、自我复制能力、且人类在事实上完全失去控制——现行的人机边界框架将彻底失效。这不是因为 ASI "应该"有权利，而是因为人类的法律体系在事实层面已经无法对它施加任何有意义的约束。

在这种极端场景下，法律的应对不会是"赋予 ASI 主体资格"，而更可能是：

这已经不是"人机边界界定"的问题，而是"人类能否继续维持对智能系统的有效控制"这个生存级问题。

需要我进一步展开其中哪个环节？比如"行为主体论"与现行刑法主体理论的兼容性分析，或者康德目的王国公式在 AI 伦理中的具体应用路径。