为了开展这项研究，研究人员构建了一个系统，将 OpenAI 的 GPT-4o 与 Google 搜索相结合，帮助参与者评估新闻报道。参与者首先自行判断标题和图像是真是假，然后与 GPT-4o 讨论该项目，然后做出最终评估。
研究人员后来在没有人工智能帮助的情况下对他们进行了新的、看不见的内容测试，以确定他们的错误信息检测能力是提高还是下降。随后，团队使用 Anthropic 的 Claude 3.5 Sonnet 分析了用户与 AI 之间的数千个对话。
由于该研究使用较旧的 GPT-4o 和 Claude 3.5 Sonnet，因此尚不清楚推理能力更强的 GPT-5.5 或 Claude Opus 4.8 等较新的 AI 模型是否会产生类似的结果。
下降的主要原因是识别假新闻的能力下降，而真实新闻的准确性保持不变。研究人员认为，虽然人工智能目前可以提高绩效，但它也可能会鼓励人们对技术的依赖。
研究称：“我们的纵向分析表明，当前的方法优先考虑信念纠正而不是技能发展，从而产生依赖性而不是持久的辨别能力。” “随着人工智能变得越来越复杂，确保这些工具培养批判性思维技能而不是认知依赖对于保持公众对错误信息的抵御能力至关重要。”
网络安全专家表示，AI 恶意软件蠕虫可实时适应新目标
这项研究发表之际，生成式人工智能使创造令人信服的假新闻变得比以往任何时候都容易，真实的图像和视频可以在社交媒体上迅速传播，并利用人们相信自己所看到的内容的倾向。
继 2025 年 6 月伊朗对以色列发动导弹袭击后，据称显示特拉维夫和本古里安机场的破坏的视频在社交媒体上广泛传播，在被识别为人工智能生成之前获得了数百万次观看。
对虚假战争镜头传播的担忧持续存在，导致 X 在 3 月份宣布，将暂停那些在未披露的情况下发布人工智能生成的冲突视频的创作者参与其收益分享计划。
“在战争时期，人们能够获得实地的真实信息至关重要，”X 产品主管 Nikita Bier 写道。 “凭借当今的人工智能技术，创建误导人们的内容是微不足道的。”