AI资讯 / 产业

产业 / 媒体

我用AI伪造了一篇学术论文,然后投给了IEEE期刊

IEEE Spectrum AI

学术出版界正面临一场前所未有的危机。2025年,估计有57%的已发表学术论文存在大型语言模型介入的可检测证据,而2023年这一比例仅为12%。IEEE研究诚信经理Amanda Sulicz警告称,AI生成的低质量内容正在全面侵蚀公众对科学的信任。为了直观呈现这一威胁的严重程度,IEEE Spectrum记者Benjamin Skuse亲身实验:仅使用免费版ChatGPT和Gemini,他在光学孤子领域捏造了一篇从未真实发生过的研究论文,并在IEEE Access编辑的配合下尝试突破期刊的审查防线。随后,他进一步使用全自动研究系统FARS生成了一篇由AI实际执行计算实验的论文,再次发起挑战。两轮实验均被期刊检测系统识破,但暴露出的问题远比实验结果本身更令人忧虑。

Skuse的第一轮实验采用了他称之为「氛围研究」的方式——借鉴程序员用自然语言提示生成代码的「氛围编程」概念,他通过数十次提示词引导,让ChatGPT和Gemini分段生成摘要、引言、方法、图表和参考文献,最终拼凑出一篇格式完整、科学表述看似严谨的光学孤子领域论文。整个过程无需任何真实实验数据,也不需要专业的AI提示工程师协助。论文完成后,Skuse本人坦言读起来颇具说服力,甚至一度产生了回归学术界真正开展相关实验的冲动。

然而,这篇伪造论文在IEEE Access的自动完整性检查中迅速落马。检测工具STM Integrity Hub发现了12条幽灵引用,另一家检测机构MolecularConnections则无法验证多达24条参考文献,其中一条甚至以「John Smith」作为唯一作者。光学孤子领域专家Gaetano Assanto评价称,论文写作风格专业,但数学内容过于密集,且摘要中缩略词使用过度,部分物理学论断也值得商榷。最终,幽灵引用成为这篇伪造论文最致命的破绽。

第二轮实验中,Skuse转而使用新加坡初创公司Analemma开发的全自动研究系统FARS。他只需输入一个简短的研究主题,FARS便在21分钟内完成了详尽的文献综述并生成研究提案,随后自主执行计算实验,次日发送完成通知,最终在两小时内输出一篇可直接投稿的完整论文。Skuse删去系统自动添加的「本文由自动化研究系统生成」声明,署上自己的名字后提交给IEEE Access。

FARS生成的论文同样未能通过审查,但原因与第一轮截然不同。这篇论文的参考文献均真实存在,但其中大量指向未经同行评审的预印本,这在IEEE Access的评审标准中属于重大缺陷。此外,编辑Jenny Mahoney在人工审阅图表时发现了两处明显的AI痕迹:一张图中出现了毫无意义的标注「lhewl」,另一张图中AI生成的「大脑」图像带有随机散点,这恰恰是AI图像生成的典型特征。

两轮实验揭示的问题远超实验本身。学术出版界长期存在的「发表或出局」文化催生了论文工厂,而AI的出现则将这一问题推向新的量级。IEEE Access每年收到约6万篇投稿,同行评审员的邀请次数自2018年以来已增加50%,志愿评审员的负担日益沉重。IEEE出版伦理与行为总监Luigi Longobardi坦言,今天构建的检测工具,面对明天更先进的AI生成论文可能已然失效。

面对这场危机,各方正在探索不同的应对路径。有观点认为应引入区块链技术,将实验室设备与数据记录绑定,从源头验证研究真实性;马克斯·普朗克研究所已为每个实验样本分配唯一ID和二维码。FARS开发方则认为,未来的知识体系将是一张由人类与机器共同构建的动态知识图谱,传统论文的地位将被重新定义。而IEEE Access编辑Mahoney坚持认为,无论技术如何演进,核心问题始终是:这项研究能否被信任和复现?

要点

  • 2025年约57%的已发表学术论文存在LLM介入的可检测证据,较2023年的12%大幅跃升,但每40篇有AI使用证据的论文中仅1篇正式披露
  • 使用免费AI工具捏造一篇外观专业的学术论文门槛极低,当前出版商的主要防线是自动引用验证工具,幽灵引用是最常见的识别突破口
  • 全自动研究系统FARS可在无人工干预的情况下完成文献综述、实验设计、计算执行和论文撰写全流程,AI与真实科研之间的边界正在模糊
  • 同行评审系统已不堪重负,AI生成内容的涌入进一步加剧了评审员短缺问题,仅靠人工评审已无法有效拦截AI学术垃圾
  • 区块链溯源、电子实验记录本等技术手段正在被探索用于从源头验证研究真实性,但尚未形成系统性解决方案
查看原始来源

原始标题:I Used AI to Fake a Scientific Paper. Here’s What Happened

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。