solidot新版网站常见问题,请点击这里查看。

AI 的 6 种最坏情况

人工智能
wanwan (42055)发表于 2022年01月05日 20时41分 星期三

来自雾影1:雾影边境
好莱坞刻画的人工智能(AI)噩梦就像一部科幻大片描绘的那样:机器人获得了类人的智能,获得了知觉,不可避免地成为企图毁灭人类的邪恶霸主。这种叙述利用了我们对技术与生俱来的恐惧,反映了通常伴随新技术发展的深刻变化。然而正如机器学习工程师、2019 年出版的小说《The Quantum Price》的作者 Malcolm Murdock 所说,“人工智能不必有知觉就能杀死我们所有人。在有知觉的 AI 成为问题之前,还有很多其他场景会消灭我们。”在对 AI 专家的采访中,IEEE Spectrum 列举了 AI 在现实世界中六种最坏的情况,它们比电影描述的要平凡得多。但是它们同样是反乌托邦的。而且大多数情况并不需要恶毒的独裁者。相反它们可能会自然而然地发生,有机地展开——也就是说,如果没有采取任何措施阻止它们的话。为了防止这些最坏的情况发生,我们必须放弃我们对 AI 的流行文化观念,认真对待它带来的意外后果。

1.当虚构定义了现实,深度伪造之类的技术会导致现实的后果。2.逐底竞争的危险性,AI 技术发展过程中需要注重安全而不是一味追求速度。3.隐私和自由意志的终结,乔治城大学的 Andrew Lohn 指出,“随着数据监视和跟踪的兴起,我们正在进入危险和未知的领域,我们对其潜在的影响几乎一无所知。” 4.人类身处算法创造的斯金纳箱(Skinner Box),社交媒体用户已经成为实验室里的小鼠。5.AI 设计的暴政,现有 AI 系统有着自身的局限性和偏见,它可能会限制人类而不是解放人类。6.过度监管 AI 会限制它给人类带来的好处。