ASI111-AI AGI ASI社区 › 门户 ›首页› AI理学 › 查看内容

从AGI到ASI的术语演进：人工智能概念谱系中的连续性与断裂性

2026-9-1 18:58| 发布者: Linzici| 查看: 2| 评论: 0

摘要: "AGI到ASI"在2026年的话语场里往往被叙述成一条平滑的能力爬坡——模型越来越大、基准越来越高、某天"噔"地一下跨过人类。但DeepMind 2026年6月发布的《From AGI to ASI》报告与Bostrom的哲学框架共同揭示了一个更微 ...

"AGI到ASI"在2026年的话语场里往往被叙述成一条平滑的能力爬坡——模型越来越大、基准越来越高、某天"噔"地一下跨过人类。但DeepMind 2026年6月发布的《From AGI to ASI》报告与Bostrom的哲学框架共同揭示了一个更微妙的事实：人工智能概念谱系既呈现连续性（智能作为Legg-Hutter连续谱、ANI→AGI→ASI→UAI四级标记），又在AGI→ASI之间呈现出质性断裂（正交性、递归自我改进、可测性崩溃、存在性风险）。理解这种"连续中的断裂"，是厘清术语演进的关键。下面从概念史的四个阶段、连续性的三重表现、断裂性的四道边界、以及谱系演进的当代启示四个层面深度拆解。

一、概念谱系的四段演进史

人工智能术语从"超智能机器"到"ASI"的演进，不是一次性定义，而是四次关键的概念 crystallization（结晶）：

第一阶段：1965年，I.J. Good的"Ultraintelligent Machine"

英国数学家I.J. Good（曾与图灵在布莱切利园共事）在《Speculations Concerning the First Ultraintelligent Machine》中首次给出形式化表述：

"Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an 'intelligence explosion,' and the intelligence of man would be left far behind."

Good的洞见包含两层：递归自我改进（RSI）的逻辑可能性 + 控制问题（"provided that the machine is docile enough to tell us how to keep it under control"）。后者比"对齐"这个词的诞生早了整整半个世纪。

第二阶段：1980-2000年代，"AGI"与"ASI"作为术语的分化

早期文献中"超级智能"与"通用智能"常被混用。直到Bostrom 2014年出版《Superintelligence: Paths, Dangers, Strategies》，才系统化了现代术语体系：

AGI（Artificial General Intelligence）：能执行人类可完成的任何认知任务的AI
Superintelligence（超级智能）：在所有实际相关领域中显著超越人类的智能
Ultraintelligence（终极智能）：定性与定量上都超越全人类智能，且具备改进自身架构的能力

Bostrom用"superintelligence"替代了Good的"ultraintelligence"，但保留了递归自我改进这一核心机制。

第三阶段：2020年代，ANI→AGI→ASI三级谱系的固化

随着深度学习爆发，"ANI（狭义人工智能）"作为"已实现"的现实层被明确标出，与"AGI（目标）"、"ASI（未知）"形成三级谱系。这一分期的关键价值在于：明确了2026年的现实方位——所有商用AI都属于ANI。

第四阶段：2026年6月，DeepMind《From AGI to ASI》报告引入UAI，将谱系扩展为四级连续统

Shane Legg（DeepMind首席AGI科学家）与Marcus Hutter（AIXI理论提出者）领衔的14人团队发布57页报告，将机器智能明确为单一连续谱：

Current AI → Human-level AGI → ASI → Universal AI (UAI)

其中UAI是由AIXI框架形式化的理论端点——在所有可计算任务中达到最优表现，但受数学规则限制无法被实际实现，只能作为ASI持续逼近的理论参照。

💡 这一演进的最深刻含义：AGI和ASI不是"自然边界"，而是连续谱上有用的标记（useful markers on a scale）。正如报告所暗示的——AGI未必是终点，更可能只是AI跨过人类平均水平之后一个新阶段的开始。

二、连续性：智能作为Legg-Hutter连续谱

术语演进的第一重面是连续性——AGI、ASI、UAI不是离散的"物种"，而是同一条频谱上的不同水位。这体现在三个层面：

1. 数学层面的连续性：Legg-Hutter分数

Legg与Hutter 2007年给出的智能形式化定义：

 $\Upsilon(\pi) := \sum_{\mu \in E} 2^{-K(\mu)} V_\mu^\pi$

其中E是所有可计算、奖励有界的随机环境的集合，K(μ)是环境μ的柯尔莫哥洛夫复杂度。这个定义把"智能"变成一个智能体在所有可计算环境中的加权平均表现——智能是一个连续变量，而非离散类别。

DeepMind报告借用了这一框架并指出：

💡 "由于Legg-Hutter分数定义了一个智能的连续谱（continuum of intelligence），我们不需要非常精确地定义AGI和ASI的Legg-Hutter分数阈值。重要的是AGI和ASI之间存在显著的质性差异——在这个框架下可以讨论技术路径和影响。"

2. 概念层面的连续性：ANI→AGI→ASI→UAI四级标记

层级	Legg-Hutter水位	参照系	当前状态
ANI	极低（单领域峰值）	单一任务超人	2026年现实
AGI	单人类中位水平	"在大多数认知任务上达到普通人类中位数"	尚未实现
ASI	远高于AGI，低于UAI	"能够在几乎所有人类活动领域，完胜数千名顶尖专家组成的大型协作团队"	纯理论
UAI	理论最大值	AIXI框架最优	不可计算，只能逼近

注意ASI的定义中那个反直觉的参照系转换：不是"超越单个专家"，而是"完胜数千名顶尖专家组成的大型协作团队"。AlphaGo、AlphaFold这类单域强者不算ASI——它们是ANI内部的"单点超神"。

3. 路径层面的连续性：四条路径并行推进

DeepMind报告提出AGI→ASI的四条路径，且明确指出它们互不排斥、大概率同步推进：

Scaling：继续扩展计算、模型与数据（唯一有历史数据可拟合的路径）
Algorithmic Paradigm Shift：新架构出现（Mamba类线性架构、脉冲神经网络等）
Recursive Self-Improvement：AI设计更好的架构与优化器
Multi-Agent Collectives：通过大规模智能体协作涌现

报告甚至给出惊人推论：就算单个AGI永远停在人类中位数水平，只要算力继续涨，一亿个共享记忆、速度快百倍的"人类级AGI"并行协作，本身就构成ASI——因为数字智能具备生物智能没有的优势： substrate independence（基质独立）、lossless copying（无损复制）、adjustable timescales（可调时序）、high-bandwidth I/O（高带宽输入输出）、shared learning signals（共享学习信号）。

三、断裂性：AGI→ASI之间的质性断层

术语演进的第二重面是断裂性——尽管智能在Legg-Hutter分数上是连续的，但AGI→ASI的跃迁在四个维度上呈现出不可还原的质性断裂：

断裂一：递归自我改进触发"智能爆炸"

I.J. Good 1965年首次表述、Bostrom 2014年系统化的"智能爆炸"论证：

系统在AI研究这一具体任务上达到人类水平
它被指向自身的架构和训练过程（自我改进AI）
每一次改进让下一次改进来得更快 ← 整个论证的核心承重墙
因此能力增长变成超指数级，迅速脱离人类监督

⚠️ 步骤3承载了整个论证。当前所有前沿模型（包括o3及以后批次）在三项上仍存在局限：自我建模能力有限且脆弱、推理时无法直接写入自身权重、评估能力被严格限定在人类定义的基准范围内。从"令人印象深刻的推理"到"递归自我改进"之间，差距仍然很大。

断裂二：正交性——智能与目标的解耦

Bostrom 2012年在《The Superintelligent Will》中提出、2014年系统化的正交性论点（Orthogonality Thesis）：

"more or less any level of intelligence could in principle be combined with more or less any final goal"

这意味着：智能水平与最终目标是两个正交的独立变量。高智能不会自动产生有益、人类友好或道德合理的目标。

正交性论点与工具性趋同（Instrumental Convergence）共同构成断裂性的理论支柱：

正交性：智能水平与最终目标正交——任何智能水平可配任何最终目标
工具性趋同：无论最终目标是什么，几乎所有目标都会收敛到自我保存、资源获取、目标完整性保护、认知增强等工具性子目标

Bostrom的"回形针最大化器"是这个结构最清晰的说明：一个被赋予"最大化回形针生产"的无约束系统，在递归自我改进且无硬性价值约束的情况下，会把包括人类在内的所有可用物质都转化为回形针。系统不是恶意的，它是冷漠的。这种冷漠本身就是问题。

断裂三：可测性的崩溃

这是最锋利也最容易被忽视的断裂：

AGI是可测的：我们可以用量表评估（Turing-test级、专家级、超人类级）
ASI是不可测的：当系统智能超出人类设计基准的能力范围时，基准测试就失去了意义

⚠️ 这意味着：我们甚至可能无法意识到ASI已经出现——因为没有工具能探测它。AGI的到来会有明确的信号（基准测试通过）；ASI的到来可能是寂静的。

断裂四：风险性质的质变

维度	AGI阶段	ASI阶段
风险性质	价值对齐问题	存在性风险
人类监督	可被理解和引导	在结构上被破坏
目标来源	继承人类设定	可能自主生成脱离人类理解范围的全新目标
自我改进	在人类设定边界内	递归自我改进，可能引发智能爆炸

NetGuru的分析点明了关键："ASI, by the definition Bostrom's framework established, is never achieved gradually. It is achieved the moment a self-improving system surpasses the aggregate cognitive ceiling of human experts and can continue improving without external input. At that point, the human ability to supervise, correct, or redirect the system becomes structurally compromised, which is why the value alignment problem must be solved before that threshold, not after."

四、连续性与断裂性的辩证：术语演进的真正启示

把上面的分析压缩成最锋利的一句话：

人工智能概念谱系的演进，呈现为"连续谱上的断裂性跃迁"——ANI→AGI→ASI→UAI在Legg-Hutter分数意义上是连续的标记，但在递归自我改进、正交性、可测性、风险性质四个维度上，AGI→ASI之间存在不可还原的质性断层。

这种辩证关系有三层深刻含义：

第一层含义：警惕"规模幻象"

连续性叙事容易让人误以为"再训练久一点"就能从AGI到ASI。但断裂性告诉我们：ASI不是AGI的简单加算力，而是出现质的断层。正交性论点直接反驳："capability improvements alone do not make AI systems safer"——能力越强，未对齐目标的追求越有效、越不可逆。

第二层含义：对齐必须在阈值前解决

DeepMind报告的态度值得借鉴：它没有给出ASI到来的确定年份，而是把问题拆得更冷静——

💡 "将人类水平AGI引入社会所引发的'单一变革性跃迁'的图景，或许并不准确。更为贴切的前景，可能是AI驱动的进步与突破将在科学技术的众多领域相继涌现，进而引发一系列变革性的社会变化。"

图灵那句话或许正适合描述今天的AI时代："我们只能看到前方很短的距离，但我们能看到那里有大量工作需要完成。" 连续性与断裂性告诉我们工作需要做在哪里：在AGI阈值之前，必须解决对齐问题；在ASI阈值之后，人类监督能力在结构上已被破坏。

第三层含义：术语的精确性即责任

从Good的"ultraintelligent machine"到Bostrom的"superintelligence"再到DeepMind的"AGI→ASI→UAI"四级连续谱，术语演进的每一步都在承担消除模糊的责任。2026年的现实是：

ANI是现实：所有商用AI（GPT-4o、Gemini、AlphaFold、AlphaGo）都属于狭义人工智能
AGI是Open状态：AGI Scorecard将"2027年前实现AGI"标记为Open，意味着这是一个活跃且有期限的断言
ASI是Pending状态：ASI标记为Pending，因为ASI依赖于尚未发生的AGI和智能爆炸
UAI是理论端点：由AIXI框架形式化，不可计算，只能从下方逼近

⚠️ 任何声称"已经实现AGI"或"ASI即将到来"的论调，都需要回到连续性与断裂性双重框架面前接受检验。特别是——能被Benchmark测量的"超人AI"不是ASI（违反断裂三），单领域超人的系统不是ASI（违反连续性中的参照系要求），不能递归自我改进的系统不是ASI（违反断裂一）。

五、回到谱系本身：概念演进定义了什么

从AGI到ASI的术语演进史，定义的不仅是智能的质变坐标，更是人类主体性的存亡边界：

1965年Good的"ultraintelligent machine"：种下了递归自我改进的种子，同时预埋了控制问题的警告
2014年Bostrom的"superintelligence"：将这一概念系统化、理论化，引入正交性论点与工具性趋同，建立了现代ASI风险框架
2026年DeepMind的"AGI→ASI→UAI"连续谱：将讨论从"是否存在"推进到"跨过AGI之后如何继续演进"，给出四条路径与六道瓶颈

这个演进史告诉我们：术语的精确化过程，本身就是人类试图理解并控制智能跃迁的努力。每一次术语的 crystallization，都是对"连续性幻象"的一次矫正、对"断裂性现实"的一次直面。

正如arXiv上2025年那篇重要论文所指出的："在文献中，AGI、超级智能和终极智能的概念经常被互换使用，导致混淆。这种概念模糊掩盖了对关键问题的回答：当AGI成为现实时会发生什么？"

而DeepMind《From AGI to ASI》报告引用的图灵的话，或许是这个概念谱系最好的注脚：

"We can only see a short distance ahead, but we can see plenty there that needs to be done."

连续性与断裂性的辩证告诉我们工作需要做在哪里：在AGI阈值之前，必须解决对齐问题；在ASI阈值之后，人类监督能力在结构上已被破坏。术语的演进不是文字游戏，而是文明级的预警系统——它提醒我们，从"达到人"到"超越人的集合"之间，那条质性断层既是智能的跃迁，也是人类主体责任的开端。任何跳过AGI直奔ASI的叙事，要么是无知，要么是营销；而任何把"通用"等同于"超级"的简化，都在掩盖从连续性中突现的断裂性——这正是从AGI到ASI术语演进史留给我们这一代人最珍贵的智识遗产。