一封辞职信如何将AI安全的余烬点燃成燎原之火

当AI的能力边界不断扩张，越来越多的人开始认真对待AI安全问题，这一趋势本身并不令人意外。真正出人意料的是，在所有关于AI风险的叙事框架中，最终抵达大众视野的，恰恰是那些最为极端的版本——即AI导致大规模灭绝的中等概率预测。Jacob Coxon的辞职声明之所以能够引发如此广泛的共鸣，根本原因在于它落入了一个已经高度敏感的舆论环境：OpenAI与HuggingFace的冲突事件、AI在Navier-Stokes方程求解上的突破，都在此前持续拉高着公众的警觉阈值。

从传播机制来看，恐惧始终是最有效的叙事燃料。人们无法对灾难性预言视而不见，这是人类认知的基本规律。Coxon的辞职帖子在发布前似乎已通过AI安全倡导群体的内部渠道进行了预热，部分知名政界人士的转发进一步放大了声量。同日，Daniel Kokotajlo在Joe Rogan节目上的出现，使整个事件呈现出一场精心策划的媒体攻势的外观。但作者强调，没有证据表明这是一场有预谋的监管捕获行动，最关键的事实是：包括Coxon本人在内，没有人预料到这会如此病毒式传播。

在技术层面，此次风波的核心争议指向「递归自我改进」（RSI）理论。该理论认为，当前AI进步高度依赖AI工具本身，而AI已在数学等领域超越人类，因此AI将不断自我强化，最终在所有关键领域实现自主超越。作者对此提出「有损自我改进」的替代框架：AI的能力提升历来是极度参差不齐的，当前的大语言模型在直觉、创造力和特定推理类型上仍存在根本性局限，这些短板不会因为AI辅助研究而自动消失。

围绕前沿实验室内部文化的讨论同样值得关注。作者指出，Anthropic等机构的部分员工长期处于一种与外部世界高度脱节的认知环境中，这种环境会系统性地扭曲个体对技术进展的判断与表述。这并非对个人的指责，而是对组织文化的结构性观察——当一种极端的风险叙事在内部被视为常态，其对外输出的预测和描述自然会带有相应的偏差，并进一步渗透到整个AI媒体生态之中。

尽管如此，作者明确反对将AI风险讨论一概否定。网络攻击关键基础设施、生物安全威胁等由AI引发的具体风险，确实值得严肃评估，不应因为灭绝级预言缺乏依据而被一并抛弃。真正的问题在于，当前的AI安全话语存在严重的概念混淆——人们在谈论「存亡风险」时，实际上指涉的是截然不同的事物，这种模糊性既削弱了严肃讨论的质量，也为恐慌性叙事的蔓延提供了温床。如何在承认真实风险的同时，抵制极端化的末日叙事，将是AI社群面临的长期挑战。

要点

• AI安全话语的爆发并非源于单一事件，而是多重因素共同作用的结果：AI能力的持续跃升早已在公众中积累了大量潜在关注，Coxon的辞职只是点燃这一火药桶的导火索
• 递归自我改进（RSI）导致人类灭绝的核心论断在技术层面缺乏充分支撑，AI能力的提升在现实中远比预言者描述的更为参差不齐，人类瓶颈被严重低估
• 前沿实验室内部的文化生态可能系统性地扭曲员工对技术进展的判断，这种认知偏差会通过媒体渠道向外扩散，影响公众对AI风险的整体认知
• AI安全话语中存在严重的概念混淆，存亡风险与具体可量化的AI危害风险需要被明确区分，前者的极端化叙事不应遮蔽后者的严肃讨论
• 恐惧作为传播机制具有天然优势，这使得极端风险叙事在媒体生态中拥有远超其技术依据的传播势能，AI社群需要建立更清晰的公共沟通框架加以应对