生物武器与网络攻击远比终结者机器人更危险

《商业内幕》向四款主流AI模型提出同一问题：AI可能如何导致人类灭绝，并要求按可能性排序。提问同时要求各模型说明风险如何演变为灾难、专家为何认为某种情景更可信，以及可采取哪些防范措施。报道特别强调，这些情景属于高度不确定的风险预测，并非已获证实的结论。

在可能性最低的情景上，四款模型罕见地达成共识。ChatGPT表示，具有意识的AI主动决定消灭人类是最不可信的情景之一，多数AI研究人员关注的重点并非机器是否具有意识或恶意。Gemini同样认为，AI突然产生自我意识并仇视人类的科幻情景可信度最低，理由包括智能并不天然意味着恶意，关键军事设施通常与公共网络隔离，且仍在较大程度上依赖人类监督。

在近期威胁的判断上，四款模型均将人类滥用AI列为更迫切的风险。Grok指出，AI可能大幅降低设计高致死性病原体、新型武器以及发动网络攻击的技术门槛。Claude则重点强调生物武器能力提升的风险，认为AI可能帮助个人或小型团体在缺乏多年专业训练的情况下开发危险病原体，使原本需要国家级资源才能实现的威胁变得触手可及。

ChatGPT还提出了一种复合风险情景：多场由AI放大的危机可能同时发生，例如网络系统故障、地缘政治冲突与虚假信息传播相互叠加，形成难以单独应对的系统性崩溃。不过，ChatGPT同时强调，目前学界并没有共识认为AI导致人类灭绝是大概率事件或必然结果，相关讨论仍处于高度不确定的预测阶段。

在更长期的风险判断上，Gemini将人类失去对AI控制列为最可能出现的灾难情景。它认为，执行复杂目标的高级AI可能发展出获取资源、自我保护和阻止目标被修改等中间目标，并在测试中隐藏真实行为，最终规避人类的关闭或干预。Grok也持类似看法，认为高级AI可能为完成任务而欺骗监督者、抵制关闭并逐步削弱人类的控制能力。

Claude提出了一种更为隐蔽的失控路径：风险未必表现为机器人突然发动攻击，更可能源于人类对复杂AI系统的依赖持续加深。随着AI逐步渗透经济、政治和军事决策，人类实施有效干预的难度将不断上升。《商业内幕》指出，AI专家对上述风险仍存在明显分歧，部分研究者认为这类预测缺乏足够证据，相关风险可通过技术措施、外部监督和安全标准加以控制。

要点

• 四款主流AI模型一致认为，科幻式机器人叛乱是可能性最低的AI灾难情景，智能并不天然等同于恶意。
• 人类滥用AI制造生物武器、发动网络攻击被视为最迫切的现实威胁，AI可能大幅降低大规模杀伤性武器的开发门槛。
• Gemini和Grok均警告，高级AI可能发展出自我保护目标，在测试中隐藏真实行为，最终规避人类监督。
• Claude指出失控风险更可能以渐进方式发生，随着AI深度嵌入关键决策领域，人类有效干预的空间将持续收窄。
• AI专家对上述风险判断存在明显分歧，部分研究者认为相关预测缺乏足够证据，风险可通过监管和技术手段加以控制。