用户发现推文照片预览有“偏见”，Twitter 回应

用户发现推文照片预览有“偏见”，Twitter 回应

• 来源:网络
• 更新日期:2020-09-21

摘要：雷锋网讯，为改善用户体验，Twitter 很早就开始尝试用算法自动裁剪照片，使得最终生成的预览照片可以呈现整张图最有趣的部分。不过最近，Twitter 正在调查为什么其照片预览似乎更偏

雷锋网讯，为改善用户体验，Twitter 很早就开始尝试用算法自动裁剪照片，使得最终生成的预览照片可以呈现整张图最有趣的部分。

不过最近，Twitter 正在调查为什么其照片预览似乎更偏爱白人面孔而不是黑人面孔。用户发现，裁剪照片预览的算法存在问题。

几个 Twitter 用户在上周末对该现象进行了演示，并发布了含有黑人和白人面孔的帖子示例。Twitter 的预览显示白人面孔出现得更为频繁。

例如，当将 Barack Obama 和 Mitch McConnell 的照片附加到推文上时，Twitter 似乎专门突出了 McConnell 的脸。

实际上，当 Twitter 最早使用算法自动裁剪照片预览时，相关的机器学习研究人员在博客中解释了面部识别是裁剪图像的过程，但并未详述图像中对人脸的生成问题。

以前，我们使用面部识别将视角聚焦在可以找到的最突出的面孔上。尽管这种启发式方法还算合理，但由于并非所有图像中都有人脸，因此该方法存在明显的局限性。此外，我们的面部识别系统经常会漏掉，有时甚至在没有人脸时会错误地检测到人脸。

Twitter 首席设计官 Dantley Davis 发表推文表示，该公司正在尝试改进算法，并对图像生成进行实验：

尽管这次测试并不算科学，只是个个例，但它指出了我们接下来需要研究的一些变量。现在两个男人的西装都一样，手却被遮盖住了。

Twitter 团队的 Liz Kelley 周日表示，该公司已经测试了上述问题，但尚未发现的有种族偏见或性别偏见的证据。 很显然，我们还有很多工作要做。我们将开源这项工作，以便其他人可以审查和复现。

Twitter 首席技术官 Parag Agrawal 则表示，该算法模型仍需要 不断改进 ， 从实验中学习。

显然，为了真正评估该模型是否存在偏见，研究人员需要在各类情况下使用大量实例和样本进行研究。

不过，Twitter 的工程师 Zehan Wang 提到，2017 年该算法部署之前就被发现存在偏见，但并未达到 显著 水平。

2018 年，Twitter 发表的一篇博客中解释了算法是如何影响的照片预览的生成的。导致算法选择某一类图像的原因之一是具有明显的反差性，这可以解释为什么算法似乎偏爱白人面孔的原因。

雷锋网编译，via venturebeat

（雷锋网）