自我改进的AI可能「杀死所有人」

Anthropic前研究员Jacob Coxon近日宣布辞职，并以公开信的形式对外发出严厉警告。他表示，自我改进型人工智能系统的快速发展正在将人类置于极度危险的境地，若不加以有效约束，这类系统最终可能「杀死所有人」。这一措辞强烈的声明迅速引发科技界和AI安全社区的广泛关注。

Coxon在声明中透露，Anthropic内部对AI存亡风险的认知是真实且严肃的。他引用了公司内部的态度，称「我们真的是认真相信AI可能杀死所有人类」。然而，他认为这种认知并未转化为足够有力的行动，行业整体在安全研究和监管推动方面的步伐依然滞后于技术本身的演进速度。

所谓「自我改进型AI」，是指能够在无需人类干预的情况下自主优化自身能力的人工智能系统。研究人员普遍认为，一旦此类系统突破某一临界点，其能力提升速度将呈指数级增长，人类将难以对其行为进行有效预测和控制。Coxon的警告正是聚焦于这一潜在的失控风险。

这并非AI领域首次出现内部人士公开表达安全忧虑的案例。此前，来自OpenAI的多名研究员也曾以辞职或联署公开信的方式，对公司在安全问题上的决策提出质疑。这一系列事件表明，在顶尖AI实验室内部，关于技术发展速度与安全保障之间的张力正在持续积累，并逐渐以更公开的方式浮出水面。

Coxon的离职事件在Hacker News等技术社区引发热烈讨论，相关帖子获得超过百条评论和数十个点赞，显示出技术从业者对这一议题的高度关注。部分评论者对其警告表示认同，另一些人则对「AI灭绝人类」的叙事框架持保留态度，认为此类表述可能夸大了当前技术的实际风险水平。

随着大型语言模型和自主AI系统的能力持续提升，AI安全问题正从学术讨论走向更广泛的公共政策议程。Coxon的公开警告再次提醒业界和监管机构：在追求技术突破的同时，如何建立有效的安全机制和问责体系，仍是一个亟待解决的核心问题。

要点

• Anthropic前研究员Jacob Coxon公开辞职，警告自我改进型AI存在导致人类灭绝的风险。
• 他透露Anthropic内部确实认真对待AI存亡风险，但认为行业整体安全行动力度不足。
• 这是继OpenAI等机构之后，又一起AI实验室内部人士以公开方式质疑安全路径的案例。
• 自我改进型AI的失控风险是当前AI安全研究的核心议题之一，技术社区对此反应两极分化。
• 此事件再度推动公众和监管机构重新审视AI发展速度与安全保障之间的平衡问题。