solidot新版网站常见问题,请点击这里查看。

新保 AI 想要一切照旧

人工智能
WinterIsComing (31822)发表于 2020年01月05日 15时57分 星期日
来自
围绕 AI 的炒作已经达到了荒谬的程度,而对 AI 的批评没有比 Molly Sauter 的《Instant Recall》一文更入木三分了。Sauter 认为,机器学习本质上是保守的,讨厌变化。如果你以“Hey darling”开头给伴侣发短信,那么下一次当你输入“Hey”时它会自动加上“darling”,即使你其实想发的是分手短信。如果你输入一个以前没有输入过的词或短语,那么自动完成建议会提示你统计学上所有用户最常用的短语。这种保守性渗透到了每一个算法推断系统:搜索冰箱或一双鞋,那么这一记录会一直伴随着你从一个地方到另一个地方,即使你已经买过了冰箱或鞋子。在 YouTube 上看了几部视频了解下白人民族主义或地球是平的阴谋论,那么算法会推荐类似的视频去增强你的“兴趣”。机器学习擅长关联但不擅长因果,它不太可能产生可靠的推断意图方法。这是人类学的基石:没有对话意图是不可知的。而机器学习所寻找的是与已建模的东西相似的东西:相似的汽车相似的面孔。这种保守性会让机器学习变得有害。如果你让机器学习系统预测应该逮捕谁,那么它会建议警察去逮捕与过去被捕的人相似的人。所以预测犯罪系统预测的不是犯罪而是警察习惯的治安管理。世界各地技术人员所持的一个糟糕的经验主义意识形态是断言数据不会撒谎,因此所有基于数据的政策能脱离政治进入证据的范围:假装数据能告诉你社会需要或想要的结果,但实际上数据是帮助你得到你想要的结果。