adv

医学成像 AI 软件易被愚弄

安全
pigsrollaroundinthem (39396)发表于 2018年06月06日 19时53分 星期三
来自不要上网部门
一项新研究发出警告,分析医学成像的 AI 软件容易被愚弄。研究人员称,深度学习神经网络在识别医学成像上的准确性得到了广泛报道,但对于其的弱点和安全问题则了解不多。德国研究人员上周报道称,AI 系统比有经验的皮肤科医生能更准确的诊断皮肤癌。研究人员认为,在将 AI 工具整合到医疗保健系统的过程中,需要对其潜在的弱点有更多了解。他们检查了愚弄医学成像分析软件的难度。他们发现利用“对抗样本”(adversarial examples)能很容易的欺骗 AI 软件错误分类,这种攻击方法人类很难识破。