跳至主内容
AI 幻觉出整个研究领域;同行评审深受震撼

研究人员称之为“自文献综述发明以来虚构学术的最大进展”的一项成果显示,一款大语言模型成功幻觉出了整个学术子领域。该模型只接收到一句提示词“写一篇令人信服的研究论文”,便生成了 47 篇结构完整的稿件,包含方法部分、伦理声明,以及对从未存在过的资助机构的致谢。

这些生成论文构成了一个高度自洽的研究谱系,模型将该领域命名为“随机振动语义学(Stochastic Vibrational Semantics)”。据 AI 介绍,这一学科自 1987 年起持续活跃,拥有三个年度会议、一份专属期刊,以及一篇因缺乏可靠来源而被删除的维基百科词条。模型还产出了一份该领域知名学者名单,这些学者名字听起来都很可信,并拥有模型“描述过但未实际生成”的 LinkedIn 页面,原因据称是“API 限流”。

一个由 12 名同行评审组成的评审小组在未被告知论文来源的情况下对其进行了评估,平均打分为 7.2/10,并评价这些工作“技术上可靠”“文献定位清晰”,以及“组织结构比我们收到的大多数真人投稿都更好”。两位审稿人还分别要求作者补充更多对其既往工作的引用,显然没有意识到这些既往工作同样不存在。另有一位审稿人要求大修,称论文“很有潜力,但严谨性不足”,专家指出这属于无论内容为何都常见的默认反馈。

该研究负责人 H. Allucinate 博士表示,这一结果“提出了同行评审到底在衡量什么的重要问题”。团队计划开展后续研究,让模型评审它自己捏造出来的论文。初步结果显示,模型将要求所有论文大修、自引 12 次,并最终建议“在作者充分回应审稿意见后录用”,而这些审稿意见本身也将是幻觉生成的。