专题·活动 |中巴农业与产业合作|巴中特快|最新

论文工厂产业化、AI代写成风
科学出版业面临学术诚信危机

2025-08-12 11:42 来源:科技日报  

编辑推荐

网络传播视听节目许可证(0107190)
 (京ICP证140554)

论文工厂产业化、AI代写成风
科学出版业面临学术诚信危机

2025-08-12 11:42 来源:科技日报

  8月,美国西北大学社会系统领域专家在《美国国家科学院院刊》发文称,科学欺诈已形成涵盖论文工厂、出版商、编辑的复杂产业链。更令人担忧的是,随着生成式人工智能(AI)技术的兴起,AI代写论文的现象正迅速蔓延,这进一步加剧了学术不端问题。这两大趋势交织在一起,给科学出版业带来了前所未有的挑战。

  科学欺诈形成庞大产业链

  此次调查重点放在了《公共科学图书馆·综合》期刊,因为该期刊可让团队方便地获取大量元数据,以及处理每年发表的数千份论文的编辑姓名。通过分析被撤回或受批评的论文,团队发现33名编辑存在异常,他们处理的论文中被撤回或受到批评的比例异常之高。其中一名编辑处理的79篇论文中,有49篇被撤回,比例高达62%。

  该团队还发现,这些编辑以令人可疑的高速度对某些作者的论文进行处理。这些作者往往是《公共科学图书馆·综合》自己的编辑,他们经常处理彼此的论文,其中一些存在包庇问题。

  这种现象并非个例。美国约翰威出版社收购的英国Hindawi出版社旗下10种期刊曾被发现存在类似问题,最终导致这些期刊停刊。更令人震惊的是,专家们发现了有组织地批量发表可疑论文的行为。通过分析外文论文同行评审平台——PubPeer上标记的2000多篇含有重复图像的论文,他们识别出多个论文集群,这些论文往往在同一时间段发表在有限的几种期刊上。

Science网站相关内容网页截屏(部分)

  印度钦奈的学术研究与发展协会(ARDA)就是这个产业链中的一个典型角色。该机构提供从论文写作到期刊发表的一站式服务,收费在250至500美元之间。ARDA会根据期刊的信誉变化调整其合作列表,剔除那些因可疑行为被文献计量数据库除名的期刊,以招揽更多作者发表论文。

  这类有组织的学术欺诈增速惊人。研究发现,2016年至2020年间,疑似论文工厂产出的论文数量每1.5年就翻一番,增速是整体科学文献增长的10倍。尽管这类论文在总量中占比小,但增长趋势令人担忧。

  AI威胁科学研究准确性

  就在学术机构努力应对传统学术欺诈的同时,生成式AI技术的兴起又带来了新的挑战。美国斯坦福大学研究团队8月4日在《自然·人类行为》上发表的研究显示,自2022年ChatGPT问世以来,科学论文中AI生成内容的比例持续上升。

  截至2024年9月,基于特定词汇频率分析(如“关键的”“复杂的”等AI高频词),计算机科学领域约22.5%的论文摘要被识别为经过大语言模型修改(检测工具对AI生成内容的识别准确率约为85%)。电气工程和系统科学领域的比例为18%,统计学领域为12.9%。虽然不同学科之间存在差异,但所有领域的AI使用比例都在上升。

  然而,AI生成内容的可靠性令人担忧。2023年的一项研究发现,研究人员在阅读ChatGPT生成的医学期刊摘要时,有三分之一无法识别出它们是机器生成的。更严重的是,大语言模型常常会臆造出虚假或误导性的信息,这对科学研究的准确性构成了严重威胁。

  破解“唯论文”是根本

  早期学术不端多为个体行为。如今,随着学术发表压力增大、中介机构商业化运作,学术欺诈已演变为分工明确的产业——论文工厂负责批量撰写,违规期刊提供发表渠道,部分编辑则通过相互包庇规避审查,形成“产—发—审”闭环,而AI技术的介入更让欺诈手段愈发隐蔽。

  面对这些挑战,学术界正在积极寻找应对之策。《公共科学图书馆·综合》的出版伦理负责人里尼·霍齐表示,他们早已意识到这类论文工厂的存在,并将对相关编辑展开调查。专业出版集团、约翰·威利父子出版公司的一位发言人也表示,出版商已经投入了大量资源来解决研究诚信问题。

  然而,专家们普遍认为,单纯依靠技术手段无法解决这一问题。重要的是需要改变当前学术界过度强调论文发表数量的评价体系。高校和科研机构应降低“论文数量”在考核中的权重,增加“研究可重复性”“同行评议质量”等指标。

  同时,学术界需要建立更严格的标准来规范AI技术的使用。例如要求作者在论文中明确标注AI参与的内容及比例,期刊启用基于词汇频率的算法模型检测AI生成的内容。

  在这场维护学术诚信的斗争中,专业人士的角色至关重要。学术界必须与技术共同进步,但绝不能沦为AI的提线木偶。

  科学的进步依赖于知识的积累和传承,而这一切的基础是学术诚信。面对日益复杂的学术欺诈产业链和AI技术带来的新挑战,学术界需要携手共进,制定出有效的防范措施和规范标准。只有这样,才能确保科学研究的真实性和可靠性,让科学真正为人类福祉服务。

   记者张梦然、实习生周思彤


(责任编辑:孟令娟)