solidot新版网站常见问题,请点击这里查看。

AI 从语言中学会性别和种族偏见

人工智能
pigsrollaroundinthem (39396)发表于 2017年04月14日 21时06分 星期五
来自微软的聊天机器人
人工智能不会自动产生与人类相关的性别和种族偏见,但通过学习嵌入在训练数据集中的偏见,AI 可能会迅速模仿这种偏见。发表在《科学》期刊上的一项研究显示了 AI 利用现有英文文本的训练如何表现出与文本中发现的相同偏见。在研究中,普林斯顿大学的计算机科学家抓取互联网上的英文文本给 AI 学习。很快,AI 就学会将 "flower" 和 "music" 而不是 "insects" 和"weapons"与 "pleasant" 联系起来,但 AI 同时也更可能将欧洲裔美国人而不是非裔美国人的名字与 pleasant  关联 ,它也更可能将 "woman" 和 "girl" 与艺术而不是数学联系起来。
「星期五」 Hello Friday

AI 从语言中学会性别和种族偏见

人工智能不会自动产生与人类相关的性别和种族偏见,但通过学习嵌入在训练数据集中的偏见,AI 可能会迅速模仿这种偏见。发表在《科学》期刊上的一项研究显示了 AI 利用现有英文文本的训练如何表现出与文本中发现的相同偏见。在研究中,普林斯顿大学的计算机科学家抓取互联网上的英文文本给 AI 学习。很快,AI 就学会将 "flower" 和 "music" 而不是 "insects" 和"weapons"与 "pleasant" 联系起来,但 AI 同时也更可能将欧洲裔美国人而不是非裔美国人的名字与 pleasant  关联 ,它也更可能将 "woman" 和 "girl" 与艺术而不是数学联系起来。

pigsrollaroundinthem 发表于

2017年04月14日 21时06分