ChatGPT被用于投资、情感与冒充骗局

OpenAI于2026年8月公开披露了一起针对旗下ChatGPT服务的滥用案例。一个以柬埔寨为主要活动据点的犯罪团伙，将ChatGPT系统性地整合进其诈骗业务流程，用于生成话术、维持虚假对话以及批量制造欺骗性内容。OpenAI在识别出异常使用模式后，迅速对相关账号采取了封禁措施，并将此次干预行动对外公开，以警示业界。

据OpenAI披露，该团伙的诈骗业务涵盖多个类别。在投资诈骗方面，AI被用于生成看似专业的财务建议和虚假收益截图配套话术；在情感骗局中，ChatGPT协助维持与受害者的长期虚假情感互动；在赌博引流场景下，AI负责撰写吸引用户注册的诱导性内容；此外，团伙还利用AI冒充真实机构或知名人士实施身份欺诈。

这一案例揭示了生成式AI在有组织犯罪中的新型应用模式。传统诈骗团伙往往受限于人力成本和语言能力，而借助大语言模型，犯罪分子得以低成本地实现多语种、高频次、个性化的欺诈内容生产，显著降低了诈骗的门槛与成本，同时提升了骗局的可信度和规模化程度。

OpenAI表示，此次行动是其持续推进的AI滥用打击计划的组成部分。该公司在内部建立了专门的安全团队，负责监测平台上的异常使用行为，并与执法机构及相关研究机构保持协作。此次柬埔寨案例的公开披露，也体现了OpenAI在透明度方面的主动姿态，旨在推动行业形成更广泛的防范共识。

此案对AI平台的安全治理提出了新的挑战。如何在保障正常用户体验的前提下，有效识别并阻断有组织的恶意滥用，需要平台在技术检测、政策设计和跨机构协作等多个层面持续投入。随着AI工具的普及，类似的滥用风险预计将进一步上升，平台的主动披露与快速响应能力将成为衡量其安全治理水平的重要指标。

要点

• OpenAI封禁了一个柬埔寨犯罪团伙的ChatGPT访问权限，该团伙将AI用于投资、情感、赌博及身份冒充等多类诈骗。
• 生成式AI正被有组织犯罪纳入工具链，显著降低了大规模、多语种诈骗的实施门槛。
• OpenAI主动公开此次干预行动细节，体现了其在AI滥用治理上的透明度策略。
• 平台对异常使用模式的持续监测与快速响应，是防范AI被恶意利用的关键防线。