文章详情

XM交易:ArXiv收紧AI论文治理:违规作者或被禁一年

币界网报道:

科研预印本平台 ArXiv 正在进一步收紧对大模型生成论文的管理。根据平台最新表态,如果作者把 AI 输出内容直接当作论文提交,且出现虚构引用、明显的模型交互痕迹等问题,可能面临一年禁投处罚。

违规后续提交门槛提高

ArXiv 是计算机科学、数学等领域常用的预印本平台。论文通常在正式同行评审前先上传到该站点,因此平台也成为观察科研动态的重要窗口。随着低质量 AI 生成论文增多,ArXiv 近年已开始提高审核门槛。

按新规则,若平台认定存在“明确证据”,作者不仅会被禁用一年,之后再向 ArXiv 投稿时,还需要先证明论文已被有信誉的同行评审出版渠道接收。

重点针对虚构引用等问题

平台方面提到,所谓明确证据,包括“幻觉式引用”、错误参考文献,以及论文中残留的模型提示语或对话痕迹。这类内容被视为作者未对论文承担应有责任。

ArXiv 并未全面禁止研究人员使用大模型。平台强调,作者可以使用相关工具,但必须对最终提交内容承担全部责任,不论内容最初由谁生成。如果论文直接复制了不当表述、抄袭内容、带偏见的文字、事实错误或误导性信息,责任仍由作者承担。

处罚采用一次触发机制

据外媒报道,这项措施将按“一次触发”原则执行,但不会由系统自动处罚。流程上,先由版块管理员标记问题,再由分区负责人确认是否具备证据,之后才会实施处罚。作者也可以提出申诉。

ArXiv 过去已经采取过一些措施,例如要求首次投稿者先获得资深作者背书。这个运营二十多年的平台此前长期由康奈尔大学托管,如今正转向独立非营利机构,以便筹集更多资金处理包括 AI 低质内容在内的新问题。

近期已有同行评审研究指出,生物医学论文中的虚构引用正在增加,原因很可能与大模型使用扩大有关。ArXiv 此次收紧规则,显示科研平台正把 AI 写作带来的内容质量问题,纳入更明确的治理框架。