solidot新版网站常见问题,请点击这里查看。
消息
本文已被查看 6130 次
AI 模糊真实与欺骗是特性不是 bug
Google 研究人员在预印本平台 arXiv 上发表论文,指出通过在互联网上发布虚假内容,绝大多数生成式 AI 正在模糊真实性和欺骗性之间的界限。深度伪造和伪造证据是目前最盛行的滥用方式,其中大多数都有明显意图,旨在影响公众舆论、进行诈骗或欺诈活动。生成式 AI 日益先进,可随时使用,对使用者的技术要求非常低,它正在扭曲人们对社会政治现实或科学共识的集体理解。生成式 AI 非常擅长于大量制作虚假内容,这其实是它的特性而不是 bug,互联网正日益充斥着 AI 的垃圾。研究人员表示这种状况将考验人们辨别真假的能力。随着生成式 AI 内容的无处不在,部分人可能会将对其不利的证据解释为 AI 生成,转移举证责任。
https://www.404media.co/google-ai-potentially-breaking-reality-is-a-feature-not-a-bug/
https://arxiv.org/abs/2406.13843
https://www.404media.co/google-ai-potentially-breaking-reality-is-a-feature-not-a-bug/
https://arxiv.org/abs/2406.13843