AGI与ASI军控条约探讨：超级智能军事应用的国际法限制

一、军控谈判的现实格局：CCW 框架下的僵局

⚠️ 关键僵局：联合国秘书长古特雷斯明确承认，人工智能和自主武器等新技术的发展速度已超过国际社会的监管能力；当外交官们在日内瓦磋商定义时，工程师们正在战场上部署新一代 AI 武器 。技术迭代速率与治理响应周期之间的脱节，正将人类推向一个充满张力的十字路口。

二、ASI 军控条约的法理底盘：国际人道法的四项核心原则

1. 区分原则：自主武器必须能够准确区分军事目标与平民目标，不仅要识别目标，还要将目标与环境中的其他"杂波"和干扰区别开来
2. 比例原则（相称原则）：任何攻击行动的军事必要性必须大于预想的平民附带损害
3. 预防原则：交战方在选择战争方法和手段时，应履行避免平民伤亡的预防措施
4. 问责原则：没有任何人力干预、拥有生死决定权的完全自主的武器平台是绝对不能接受的

1. 缺乏法律约束力：目前关于 LAWS 的讨论主要停留在政府专家组层面，尚未达成具有法律约束力的国际文书
2. 定义困境："致命性自主武器系统"本身缺乏国际商定的定义
3. 技术发展快于治理：AI 和自主武器等新技术的发展速度已超过国际社会的监管能力
4. 地缘政治竞争阻碍合作：大国在 AI 领域的竞争使治理合作更加困难
5. 非国家行为体的风险：AI 技术的"民主化"使恐怖组织、犯罪集团等非国家行为体也可能获取并滥用 AI 武器

三、ASI 带来的"责任缺口"：归责链条的断裂

💡 "责任缺口"成为最大隐忧：现有法律对自主系统造成伤害难以有效追责于开发者、部署者、指挥官或国家主体。一方面，AWS 的决策过程高度不可解释，使归责判定复杂化；另一方面，现有国际刑法如国际刑事法院（ICC）的罗马规约依赖于人的意志与行为定义责任，面对自主系统时，传统命令责任与国家责任框架逐渐失灵。

• 决策不可解释：ASI 在战场上的目标识别与打击决策过程高度不可解释，使归责判定复杂化
• 命令责任失灵：传统命令责任依赖于人的意志与行为，面对 ASI 自主系统时逐渐失灵
• 国家责任框架动摇：ASI 的自主性使传统"国家指挥或控制"归因标准面临挑战

1. 国内法律审查机制：各国应当建立对新武器的国内法律审查机制
2. 起草和制定有关人工智能武器的国际条约：推动起草和制定有关人工智能武器的国际条约
3. "有意义的人类控制"原则：国际社会就人工智能军事应用的国际人道法规制议题达成的基本共识，它为现行国际人道法规则的适用提供了解释框架，也为未来立法提供了价值基准

四、ASI 军控条约的可行路径：三条主轴

主轴一：禁止完全自主的致命决策（"人在回路"硬约束）

• 禁止"人类脱链"或"完全自主"的 LAWS——即一旦激活，无需人类操作员进一步干预即可选择和攻击目标的武器系统
• 要求所有致命性自主武器系统必须保持"人类在链中"——操作员有能力监控和停止武器的目标攻击
• 落实"有意义的人类控制"原则，将其转化为可验证的技术标准与法律义务

主轴二：新武器合法性审查义务的议定书化

• 在 CCW 框架下形成针对人工智能武器的附加议定书
• 借鉴 CCW 对不可探测碎片武器、激光致盲武器等武器的前瞻性规范经验
• 要求缔约国在 AI 武器研发、采购、部署全流程建立法律审查机制
• 通过制定双边或者多边条约确立履行审查义务和违规责任制度

主轴三：人机交互全流程的风险评估和控制义务

• 研发阶段：编程必须考虑人道法对 AI 武器运行的要求；预留容错空间和人类介入接口
• 激活阶段：明确划分战场区域，设置清晰标志避免平民误入；决策者承担确认使用环境合法、人类控制充分可行的责任
• 操作阶段：操作者通过监督和干涉对 AI 武器的运作实施人类控制

💡 关键判断：全面禁止 LAWS 的国际法倡议难以实现且理由不充分 。相比之下，完善 LAWS 国际法规制框架切实可行——基于现有国际法，人工智能不得部署于非法武器，部署于合法武器时应完善审查机制；各国基于国家安全利益和宪法限制原因，就特定问题达成新条约，即就核武器的智能化升级达成再平衡协议，禁止将完全自主的人工智能部署于武装力量终极指挥系统 。

五、大国博弈与谈判前景

• 中国长期主张致命性自主武器系统必须保持"有意义的人类控制"
• 2026 年香格里拉对话上，中国代表团明确呼吁建立军事 AI 规则框架，甚至提及未来可能需要具有约束力的机制
• 中国认为 CCW 是讨论 LAWS 的最适当场所，支持在条件成熟时谈判达成具有法律约束力的国际文书

• 美国国防部 2026 年 1 月发布《AI 加速战略》，明确提出要移除影响 AI 部署与应用的"制约"
• 在联合国框架下反对具有法律约束力的自主武器系统禁令
• 美国国务院的"负责任军事 AI 政治宣言"已获得超过 50 个国家背书，但中国和俄罗斯均不在列

• 2025 年 11 月，联合国大会第一委员会通过历史性决议，呼吁到 2026 年达成具有法律约束力的 LAWS 协议，156 个国家支持，但美国和俄罗斯明确拒绝
• 联合国秘书长古特雷斯 2025 年 5 月再次呼吁全面禁止 LAWS
• 但 CCW 政府专家组从 2016 年开始讨论，到 2026 年 3 月刚刚结束新一轮磋商，仍在围绕"什么是 LAWS"和"如何确保人类控制"等基础问题上争执不休

⚠️ 短期现实：联合国裁军研究所所长罗宾·盖斯 2026 年 7 月在清华大学演讲时坦承——短期内，一项约束军事 AI 的全球性公约几乎不可能达成 。战场已经先于规则跑远了：乌克兰战场已经成为军事 AI 的大规模实验场。

六、ASI 军控条约的渐进时间表

• 在 CCW 框架下启动人工智能武器专项议定书的起草工作
• 就"有意义的人类控制"原则形成可验证的技术标准
• 建立新武器合法性审查的实施细则
• 推动双边或多边条约确立审查义务和违规责任制度

• 就核武器的智能化升级达成再平衡协议
• 禁止将完全自主的人工智能部署于武装力量终极指挥系统
• 针对特定场景（人口稠密区、自主网络攻击、自主生化武器研发）达成禁止性议定书

• 若出现接近 AGI 的自主武器系统，监管重心将转向"能力阈值"
• 参照《特定常规武器公约》模式，形成综合性 ASI 军控公约
• 建立跨国 ASI 军事应用监管与核查机制

七、ASI 军事应用合规框架

💡 给 ASI 防务相关企业的优先级清单：

第一优先（立即执行）：

• "人在回路"架构硬约束：确保 ASI 军事系统在任何致命决策节点都保留人类监控和停止攻击的能力，避免落入 DODD 3000.09 定义的"人类脱链"LAWS 范畴
• 新武器合法性审查机制：建立对标《日内瓦公约第一附加议定书》第 36 条的国内法律审查流程，覆盖研发、采购、部署全流程
• 区分原则与比例原则的工程化：在目标识别算法中嵌入国际人道法合规校验，确保自主武器能够准确区分军事目标与平民目标，攻击决策的军事必要性大于预期平民附带损害
• 决策日志全链路留存：应对 ASI 决策过程"高度不可解释"的挑战，建立可审计、可追溯、可归责的证据链

第二优先（2026-2027）：

• 对接 CCW 附加议定书起草进程：通过"有意义的人类控制"原则转化为内部技术标准
• 责任缺口填补预案：明确开发者、部署者、指挥官的责任边界，避免 ASI 自主决策导致的"责任真空"
• 跨国合规并行：同时满足中国"有意义的人类控制"、美国 DODD 3000.09、欧盟 AI 法案高风险义务的复合要求

第三优先（长期）：

• 参与 WAICO 框架下的安全治理协作：推动 ASI 军事应用国际规则的制定
• 预判"能力阈值监管"的军控化：当 ASI 能力接近 AGI 阈值时，监管重心将从"用途合规"转向"能力阈值禁止"
• 建立跨国核查与验证机制：为未来可能的 ASI 军控公约提供技术核查能力

简短的结论

• 国际人道法四项核心原则：区分原则、比例原则、预防原则、问责原则构成约束 ASI 军事应用的底线
• 《日内瓦公约第一附加议定书》第 36 条：确立新武器合法性审查义务，但其仅规定抽象性义务，缺乏可操作性的实施细则
• "有意义的人类控制"原则：国际社会就人工智能军事应用的国际人道法规制议题达成的基本共识，为现行国际人道法规则的适用提供了解释框架
• 完全自主致命决策的禁止：鉴于由人工智能直接做出攻击决策的完全自主武器系统具有明显反人类特征，"禁止此类系统的开发是构建人类安全共同体的必然要求"

• 美国国防部 2026 年 1 月发布《AI 加速战略》，明确提出要移除影响 AI 部署与应用的"制约"，在联合国框架下反对具有法律约束力的自主武器系统禁令
• 2025 年 11 月联合国大会第一委员会呼吁到 2026 年达成具有法律约束力的 LAWS 协议，156 国支持，但美俄明确拒绝
• 2026 年 2 月 REAIM 峰会上连"禁止"二字都没有的不具约束力宣言，美中均拒绝签署
• 技术迭代速率与治理响应周期之间的脱节，正将人类推向一个充满张力的十字路口

⚠️ 必须正视的四点：

1. 全面禁止 LAWS 的国际法倡议难以实现——基于国际法治原理和国家安全利益考量，完善 LAWS 国际法规制框架切实可行，全面禁止理由不充分
2. "责任缺口"是 ASI 军控的核心法理挑战——ASI 的自主性使传统命令责任与国家责任框架逐渐失灵，必须在新条约中建立全链条法律责任
3. CCW 是最适当场所但谈判进展缓慢——从 2016 年至今仍在争执"什么是 LAWS"的基础定义问题，错失了古特雷斯设定的 2026 年目标
4. 战场先于规则跑远——乌克兰战场已成为军事 AI 的大规模实验场，技术迭代速率远超治理响应周期