adv

对抗图像能愚弄人类和 AI

人工智能
pigsrollaroundinthem (39396)发表于 2018年03月01日 19时21分 星期四
来自已被愚弄了部门


左图是一只猫,右图你能区分下究竟是相同的猫的图像还是一只狗的图像?两幅图的区别在于右图使用了算法进行了微调,让卷积神经网络难以区分图中的东西究竟是什么。卷积神经网络认为图中是一只狗,而绝大多数人类也是这么认为的。这是所谓的对抗图像(adversarial image)的一个例子。对抗图像设计愚弄神经网络使其难以做出正确判断。Google Brain 的研究人员发现,他们开发的对抗图像不仅能愚弄计算机也能愚弄人类。他们的研究论文发表在预印本网站上。研究人员称,他们研究引发了有关卷积神经网络模型和大脑如何工作这一基础性问题的疑问。