solidot新版网站常见问题,请点击这里查看。

AI 大师对未来感到担忧

人工智能
pigsrollaroundinthem (39396)发表于 2018年11月20日 18时39分 星期二
来自睡一觉就好了
Yoshua Bengio 是深度学习技术的缔造者之一,他接受采访回答了 AI 竞赛和军事使用等问题。Bengio 对西方和中国的少数公司统治 AI 领域感到担忧,认为 AI 研究需要更多民主,AI 研究本身会导致权力、金钱和研究人员的集中化,最好的学生想要去最好的公司,他们会有更多的钱更多的数据,这种趋势不是健康的。即使在民主制度下,太多的权力集中在少数人手中也是危险的。他坚决反对 AI 的军事使用,即使是非致命的使用。他认为需要将拥有杀人机器人变得非道德,改变文化,包括改变法律和条约。当然你无法永远阻止杀人机器人的出现,因为流氓国家会去研究,但我们可以研究防御技术,针对无人机的防御性武器和针对人类的进攻性武器之间是有差异的。两者都可使用 AI。Bengio 不信任军方,他认为军方通常会将职责放在道德之前。