近期，学术预印本平台面临着前所未有的挑战：AI生成的论文如雨后春笋般涌现，引发了一系列关于学术诚信和内容审核的讨论。
据Nature杂志报道，每年约有2%的论文因涉及AI生成内容而被拒绝。以bioRxiv和medRxiv为例，这两个平台每天需拒绝十多篇疑似由AI撰写的稿件，月累积量高达7000余篇。预印本平台，原本旨在快速分享研究成果，如今却成了AI内容的温床。
这一问题的曝光，始于一篇发表在PsyArXiv上的论文。该论文题为“自我实验报告：梦境中生成式人工智能界面的出现”，其内容荒诞不经，且署名作者信息模糊。心理学家在审阅时发现，该论文极有可能是由AI生成。尽管PsyArXiv迅速下架了该论文，但作者随后又上传了几乎一模一样的版本，再次引发关注。
作者Liu Jiazheng在邮件中声称，AI在该论文生成中的作用有限，仅用于数学推导等辅助任务。然而，其缺乏高等教育背景，唯一工具为一台二手智能手机的自述，难以令人信服。这一事件，只是AI生成论文泛滥的冰山一角。
随着ChatGPT等AI工具的推出，AI生成的论文摘要在arXiv计算机科学领域占比高达22%，在bioRxiv生物学领域也达到了约10%。一些生物医学期刊的摘要中，AI生成内容同样占比颇高，达到14%。这无疑对学术研究的真实性和可靠性构成了威胁。
预印本平台对此表示担忧，他们深知AI工具在学术研究中的辅助作用，如提高文本清晰度、总结数据等，特别是对于非英语母语的作者而言，AI润色是合理的需求。然而，完全由AI捏造的论文内容却令人担忧，这不仅误导科研人员，还削弱了读者对平台内容的信任。
为了应对这一挑战，预印本平台正在积极采取措施。他们使用自动化工具和人工筛选程序来捕捉可疑内容，如Research Square采用的Geppetto工具。同时，平台也在提高综述性论文的发表标准，以减少AI生成内容的投稿。openRxiv等平台也在寻求自动化工具的支持，以进一步识别AI生成内容的特征。
然而，这些措施似乎仍难以完全遏制AI生成论文的泛滥。一些作者甚至采取策略，试图规避自动化工具的检测。这无疑增加了平台审核的难度。面对这一困境，预印本平台需要不断探索更有效的审核机制，以确保学术研究的真实性和可靠性。
