MIT 媒体实验室一项新研究显示，生成式 AI 在识别虚假信息时能带来即时帮助，但这种帮助未必会转化为更稳定的判断能力。受试者在 AI 辅助下表现更好，脱离工具后却出现回落。

四周实验记录逾 7000 次对话

这项研究持续四周，共跟踪 67 名参与者，记录了 7203 次与 AI 的对话，以及 4536 次对新闻真实性的判断。参与者先独立判断新闻标题和配图真假，再与 AI 讨论，最后重新作出结论。

研究团队搭建了一套检测系统，将 OpenAI 的 GPT-4o 与 Google Search 结合使用，帮助参与者核查新闻内容。实验结束后，团队又安排无 AI 测试，观察受试者面对新内容时的独立判断是否改善。

AI 辅助时准确率提升 21%

结果显示，参与者在使用 AI 时，识别虚假信息的准确率提高了 21%。这说明聊天机器人在具体任务中确实能帮助用户发现可疑内容，尤其是在真假混杂的新闻标题和图片场景中。

但到了后续的无辅助测试阶段，参与者整体表现较此前下降了 15.3 个百分点。研究人员指出，回落主要来自识别假新闻能力减弱，而对真实新闻的判断准确率基本没有变化。

研究指向依赖风险

研究团队认为，当前这类 AI 工具更像是在帮助用户修正单次判断，而不是训练用户形成更稳定的辨别能力。也就是说，AI 可能提升当下结果，却没有同步增强人的独立思考，反而让部分用户更依赖工具。

研究人员随后还使用 Anthropic 的 Claude 3.5 Sonnet，分析了数千段用户与 AI 的对话。论文给出的结论是，现有设计更偏向替用户完成判断，而不是教用户如何判断。

战争假视频加剧关注

这项研究发布之际，生成式 AI 正在显著降低伪造内容的制作门槛。更逼真的图片、视频和文本，正在加快虚假信息在社交平台上的传播速度。

文章提到，2025 年 6 月伊朗导弹袭击以色列后，社交平台上一度流传多段据称拍摄于特拉维夫和本-古里安机场的战损视频。这些内容获得数百万次观看，随后被确认是 AI 生成。

围绕战争影像造假的担忧持续升温。X 今年 3 月宣布，若创作者发布未标注的 AI 生成冲突视频，将被暂停参与平台分成计划。