adv

发现自主驾驶汽车 AI 系统 Bug 的新方法

Bug 人工智能
pigsrollaroundinthem (39396)发表于 2017年11月06日 17时42分 星期一
来自公开源代码部门
绝大多数软件的 bug 不会杀死你,但自主驾驶汽车的 AI 可能是一个例外,错误可能会导致 AI 在错误的时间做出错误的决定。哥伦比亚大学和 Lehigh 大学的研究人员设计的 DeepXplore 方法能在不同神经网络触发尽可能多的冲突决策,系统性的暴露软件错误。比如 DeepXplore 在 Nvidia 的 DAVE-2 自主驾驶软件发现了一个错误,能导致汽车撞上公路上的护栏。研究人员深知,只要恶意的黑客能利用一个 bug,整个系统就仍然是脆弱的。研究人员的测试发现,DeepXplore 在各种深度学习应用中发现了数以千计的以前未知的 Bug。它并不能保证能发现系统的所有 bug。