solidot新版网站常见问题,请点击这里查看。

机器会学习但它会遗忘吗

人工智能
wanwan (42055)发表于 2021年08月20日 17时30分 星期五
来自
众多企业都在使用机器学习技术分析人们的欲望、情感或面部特征。但有研究人员提出了新的问题:机器会学习但它会遗忘吗?作为计算机科学中的新兴领域,机器学习研究者开始探索在 AI 软件中诱发选择性失忆的方法,目标是在不影响模型性能的前提下、从机器学习系统中删除特定人员或数据点的所有痕迹。如果可行,那么这个概念将帮助人们更好地控制数据以及由数据产生的价值。虽然社会上已经有不少声音要求企业删除个人数据,但运营一方其实也并不完全理解自己调试或训练出的算法。此次提出的机器反学习有望找出一条既可产出价值、又能回避隐私问题的发展道路。
举个最典型的例子:有些用户会出于一时冲动而在网上发布一些过激的内容,事后虽然后悔、但却无法彻底抹除。但要实现 AI 遗忘概念,我们可能需要在计算机科学方面做出新的探索。企业投入数百万美元训练机器学习算法掌握了人脸识别与社交帖子排名等能力,但一旦训练完成,机器学习系统就不会轻易让步,甚至训练者自己也不清楚系统是如何掌握这些能力的。在传统上,消除特定数据点影响的可行方法只有从零开始重建系统,但高昂的成本往往令企业难以承受。也许机器反学习技术的出现,能给目前的困境带来一丝转机。