Google 的情绪分析仪将犹太人和同性恋视为负面

AI 需要大量数据训练，如果输入的数据存在偏见，它们也会具有偏见。Google 在2016 年 7 月 宣布公测新的机器学习 API  Cloud Natural Language API，允许开发者在其应用中整合 Google 的深度学习模型。该 API 包含了一个情绪分析仪，允许程序以-1 到 1 的尺度判断句子表达的是正面还是负面情绪。该情绪分析仪被发现具有内在偏见，会将犹太人和同性恋标记为负面情绪。Google 发言人在一份声明中称，他们投入了大量努力确保 CNL API 避免偏见，但并不总能做对，这个例子就是其中之一，他们对此表示抱歉。Google 对此问题非常严肃，正在改进模型。