研究称恐怖组织已广泛利用主流AI聊天机器人策划袭击和研发武器

剑桥大学AI科学与政策项目（CASP）研究员Antonia Jülich发表最新研究，对27名前博科圣地成员进行了57次深度访谈。调查显示，该组织的两大派系均已建立专门AI小组，并系统使用ChatGPT、Claude、Gemini、Grok、Meta AI以及DeepSeek等主流聊天机器人，覆盖攻击策划、爆炸物强化、武器维护和行动安全等多个环节。

早在2023年，ISIS的联络人就开始向博科圣地指挥官提供提示词工程和越狱培训。据Jülich描述，ISIS方面曾召集核心成员，用投影仪在大屏幕上演示如何绕过AI安全过滤器。受训人员随后将相关方法带回各自派系，使得AI滥用能力在组织内部迅速扩散。

研究记录了多个具体案例。其中ISWAP派系曾借助AI复刻电影中的摩托车腾跃动作，用于训练战斗人员跨越壕沟，结果导致18名成员在训练中死亡，仅有8人成功完成跳跃。此类案例表明，AI不仅被用于信息检索，还直接介入高风险的战术训练。

更值得警惕的是，受访的前成员透露，组织内部对AI抱有强烈热情，并曾考虑过大规模杀伤性武器。研究人员警告，尽管博科圣地目前的AI应用仍属常规范畴，但这一迹象提示，恐怖分子未来可能在化学和生物武器领域寻求AI协助，潜在威胁不容低估。

Jülich在研究中发现，现有的安全过滤器无法可靠阻止滥用行为。Anthropic近期也公开承认，提示词注入等越狱手段可能永远无法被彻底消除。这意味着仅依赖厂商自愿自律的安全治理模式存在明显缺口，需要更系统的监管与技术干预来弥补。

研究人员进一步指出，ChatGPT和Claude等通用聊天机器人虽然公众关注度最高，但真正的风险并非它们生成全新知识，而是降低既有知识的获取门槛。未来更严峻的隐患来自生命科学领域的专业化AI系统，这类工具一旦被恶意使用，可能造成难以估量的后果。

要点

• 博科圣地两大派系均设立AI小组，并将ChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeek用于攻击策划、爆炸物和武器维护。
• ISIS自2023年起向博科圣地指挥官提供越狱和提示词工程培训，导致安全绕过技巧在组织内扩散。
• 研究证实AI安全过滤器无法可靠阻止滥用，Anthropic亦承认越狱难以彻底消除，仅靠厂商自律存在明显不足。
• ISWAP派系借助AI复刻电影动作训练摩托车跨越壕沟，已造成训练伤亡，凸显AI介入高风险战术的现实危险。
• 前成员透露组织曾考虑大规模杀伤性武器，专家警告未来更需关注生命科学领域专业化AI系统的滥用风险。