面部识别技术的伦理

近年来,人脸识别技术已经越来越成为我们生活的一部分:我们用它来解锁手机,我们会自动标记照片在社交媒体上,我们通过机场是由自动加速的护照检查,我们默默地检查观察名单中在拥挤的情况下,如体育赛事,节日或示威。

许多这样的应用程序是有争议的。使用面部识别技术来识别个人在人群中,例如。有些人强调这样的搜索的速度和效率,可以带来的好处比传统的监测和安全程序,其他人担忧隐私和侵犯人权,提高状态监测在日常生活的作用,逐渐威胁到社会凝聚力和个人的自我表达。

一个经常讨论关心的是偏见和歧视的问题在人脸识别技术的发展和应用。道德,这是一个复杂的空间,文化和技术原因。文化,我们部分处理过时的社会文化规范和假设的遗产(这可能告知决策功能和特点的“目标”数据库搜索,例如)但这是背景的映衬下不稳定和流动性在“种族”的概念和定义,“种族”和“性别”。

技术偏见

也有技术和设计的问题意味着,人脸识别技术很可能以不同的方式执行不同的社会群体。我们需要意识到这些影响,做出负责任的决定如何部署技术相当,确保我们注意并采取措施减轻他们的固有偏见。

的一些技术偏见从摄影本身的历史遗留物。从早期的摄影技术和材料开发特权白度:二十世纪初,例如,胶片乳剂偏向“白种人”肤色——彩色胶卷往往不能准确地代表广泛的非白人的皮肤类型和未能接重要的面部特征。尽管数码相机启用大量的后处理拍摄后,他们仍然享有特权的“白”在视觉繁殖。2014年,非裔美国摄影师Syreeta麦克费登写道:

”即使在今天,在低光传感器搜索东西轻有色…在快门释放。集中在一个黑点上,相机是不活跃的。它只知道如何调整自己对明度定义形象。”

算法的偏见

这个的影响,准确的表示所有的人而言,是显而易见的。在2000年代早期,这“看到”对比困难引起的几种广泛宣传的网络事件未能检测人脸和非白人患者皮肤中的运动。制造商被指控“算法的偏见”。

正如我们所见,深度学习方法是高度依赖于数据集用于培训他们。任何偏差的数据采样,收集和标记将被反映在人工智能系统的学习,并产生输出。人脸识别算法,给我们一个有趣的和令人不安的洞察。2018年,Buolamwini和Gebru审计面部由微软开发的分类系统,IBM和其他和显示,根据上下文,深色皮肤的女性35倍更有可能比白人被误诊。他们的研究显示,这些系统使用的大型数据集训练不足的色彩和女性。

最近IBM面部数据集的多样性的研究发现,八最重要的,公开面对图像数据集,六有更多的男性比女性的形象,和六个浅肤色的脸已经超过80%。也值得考虑的方式收集数据:直到最近,这种方法在很大程度上是一个大规模的“互联网抓取”而不是小心控制,bias-aware数据收集。

另一个问题是,设计师们通常不会采取措施纠正这些不平衡的数据集。例如,截至2019年,没有一个十大脸图像数据集包括任何肤色或类型的标签。这意味着任何差异在人脸识别算法的性能在不同种族不会被检测到。即使数据注释,偏见经常被观察到。例如,UTK面对数据集,出版于2017年,认识到只有五个,而原油类别的种族——白色、黑色,亚洲、印度和“其他”——而且只有两种性别:男性和女性。

设计没有偏见

AI系统的输入数据的收集和预处理通常是具有挑战性的,和面部识别数据的例子是一个很好的实例的困难。作为研究人员,我们需要照顾,我们收集的数据是完全代表,和我们的分类,标签和注释过程反映,包括所有的组织可能会影响我们的算法的输出。我们需要警惕历史偏见,并意识到其潜在的实际意义,并采取措施确保我们柜台的设计系统。不要这么做不仅是错误的:在这样一个时代,面部识别技术发挥作用在我们生活中的很多地方,后果——对个人和社会的假阳性,或假阴性,是严重的。

本文是基于该报告严重的面部识别技术的理解偏差:一个讲解员的大卫博士莱斯利的阿兰·图灵学院的公共政策方案:莱斯利,d . (2020)。面部识别技术的理解偏差:一个讲解员。阿兰·图灵研究所。https://doi.org/10.5281/zenodo.4050457