摘要:在人工智能领域一向备受尊敬的深度学习大牛 Yann LeCun 这次成为众矢之的,在 Twitter 上被连怼数日后,最终宣布:我想请大家停止通过 Twitter 或其他方式相互攻击。无论是口头还
在人工智能领域一向备受尊敬的深度学习大牛 Yann LeCun 这次成为众矢之的,在 Twitter 上被连怼数日后,最终宣布:
我想请大家停止通过 Twitter 或其他方式相互攻击。无论是口头还是其他方式的冲突,都是伤害和适得其反的。我反对一切形式的歧视。我在 FB 上发表了一篇关于我的价值观和核心信念的长篇文章,这将是我在 Twitter 上的最后一篇重要文章。再见了。
究竟发生了什么?这一切还要从上周走红网络的变脸 AI 算法引起的种族话题争议说起,Yann LeCun 在分析这个算法背后的问题时,被其他 AI 学者指责 过于片面地理解 AI 公平性 ,尽管他连续发表了 17 条推特对此进行了辩论,但仍没能平息舆论,话不投机半句多,最后 Yann LeCun 不得不通过永别 Twitter 的方式回应这一切。
图|Yann LeCun 宣布不再在 Twitter 上发言
舆论漩涡的中心,是一个充分体现了人工智能存在偏见的算法程序:PULSE ,该算法研发团队来自美国杜克大学,相关论文也入选了 CVPR 2020 大会。算法的一大亮点是可以借助机器学习技术来填补像素不清晰的情况,进而从一张打满马赛克的图片还原出一张清晰的人脸,看上去非常神奇。
不过严重的问题来了。不少学者在测试后发现,从马赛克图像中生成的人脸,不管是黑人还是黄种人,最终都产出接近白人脸型和皮肤的图像,这瞬间引起了巨大的争议,且恰逢美国社会此时正处于对种族歧视问题的激烈讨论中。
图|PULSE 生成的各种存在种族偏见的图像
出现这种严重的种族偏见,应该归咎于哪个环节?数据偏差还是算法偏差?对此,AI 大神 Yann LeCun 认为,当数据有偏差时,机器学习系统也会有偏差。这个算法使每个人看起来都是白人,因为该网络在 FlickFaceHQ 上进行了预训练,里面大多是白人照片,如果在塞内加尔的数据集上训练 完全 相同的系统,每个人看起来就会像非洲人。
另外,他表示解决这个问题需要更多机器学习工程师参与其中,而非机器学习研究者,且与已发表的论文相比,现在已部署产品中的偏见后果要严重得多。最有效的解决方法是在训练期间均衡样本类别的频率, 这迫使网络注意所有样本类别的所有相关属性。
图|Yann LeCun 关于 PULSE 存在种族偏见情况的分析
对于 Yann LeCun 的这个观点,斯坦福 AI 实验室成员、Google AI 研究科学家 Timnit Gebru 表示很失望。AI 责任制度研究人员 Deborah Raji 也回复表示自己对 LeCun 的言论不能接受,认为这反映出即使是行业最顶尖的大神级人物,在意识上也存在落后与偏见。
很多人们认为 Yann LeCun 的观点是:AI 研究者使用 公平的 数据集就会避免机器学习系统产生偏见,质疑他的学者们普遍认为,AI 存在偏见的原因不仅是数据损失和优化算法的配置,更多的还是社会中现存的不公正因素的干扰。
比如西方社会对有色人种存在的长期偏见,仅使用 正确的 或者 公平的 数据,不能从根本上解决问题,更何况,绝对公平的数据集也是很难实现的,尽管 Yann LeCun 连续发 17 条推文逐点阐述逻辑,说明自己并不是这个意思,但仍难平息已经点燃的舆论风波。
本来起因是件就技术说技术的事情,最后还是被拉升到了种族歧视的高度上,而这个话题也是当前美国民众情绪最不稳定的部分,Yann LeCun 的无心言论触发了这根敏感的神经,成为舆论发泄口。最终的尴尬结局就是, 我一句话不说了还不行么?
图|Yann LeCun 提到自己会始终坚守的价值观和信念
不过,为了给这场舆论风波收个尾,Yann LeCun 在最后一条推文中附上长文,以表明自己的价值观和核心信念,摘要如下:
1. 人类的福祉,我是人文主义者;2. 社会公正;3. 自由民主;4. 社会民主;5. 人权、自由和言论自由;6. 知识、理解和科学进步;7. 理性思维和世俗主义;8. 建设性的实质性辩论;9. 科学的方法和实用主义。
在此简短列表中,有很多重要的事情可能没有明确提及,但这并不意味着我不同意或认为其不重要。
比如种族主义:我自己全心全意反对种族主义和各种歧视,当你成为种族主义者时,你不可能追求人文主义、社会正义、自由和民主。如果你是种族主义者,那么你不是我的朋友。但是由于上述 1-8 条(尤其是 5 和 8 条),我会尊重你表达你的个人想法,并会与你交谈尝试改变种族歧视的想法。
性别歧视:我全心全意反对性别歧视。如果不包括世界一半的人口,则不会有上述 1-6 条。这将使我反对某些在其机构中存在性别歧视的文化习俗,也反对那些不努力在性别平等方面取得进展的文化和政府。
环境保护主义:我不相信没有宜居的星球我们还能长期维持人类的福祉。
情感:所有对理性主义的提倡,似乎都像我对情感和社会动态一无所知,但事实并非如此。情感是人性的一部分,并驱动我们的行为,但是有时会阻挡上述 6-9 条的发展。
宗教:我是一个无神论者和理性主义者。但你可以是宗教主义者和理性主义者,我的许多朋友和同事都是。宗教对许多人来说是有用的,它能提供一种使命感、社会归属感和道德指南。我自己的道德指南来自于人道主义:最大限度地提高人类福祉的长期预期价值,最大限度地减少人类的痛苦。另外我强烈赞成世俗主义,因为我坚信宗教思想和道德不是做出对 1-9 条有益的理性决定的好方法。
艺术与法律:艺术是文化、人类交流和幸福的基础。人们可以把我的清单看作是一棵为人类福祉提供养分的树根的一个分支。其中的一个分支与第 6 条(知识和理解)相关,包括艺术、艺术创作、讲故事和许多人类活动,在这些活动中理性思维并没有发挥特别重要的作用;另一个分支与第 5 条(人权)有关,并有法律保障,没有法律就不可能有一个民主的公民社会,没有法律就没有正义。当然,法律的制定需要理性的思考和建设性的辩论,但我认为它足够清晰,需要一个单独的分支来讨论(会根据评论进行更新)。
还有其他许多重要问题我将不在这篇文章中讨论,最后,我不责怪有些人们会被无知、不理智、愤怒或愚蠢误导。作为一名从事学习和智能研究的教育工作者、科学家和研究人员,我相信人们可以通过学习改变自己的行为。我想帮助他们做到这一点,以提升上述 1-9 条的发展来改善人类社会。
相关文章推荐
新网新人专享,注册领SSL证书百元神券2022-09-15
新网与亚洲诚信达成战略合作,携手共建安全云生态2022-09-06
企业网站没有SSL证书,你将面临......2022-09-27
SSL协议、TLS协议,有什么区别?2022-09-26
网站跳出率高?可能是没装SSL证书2022-09-26