苹果的人脸识别将显示出科技行业在对抗种族歧视方面取得了多大的进步

就像他们的许多设计选择一样,苹果最近决定在新的iPhoneX中交换其使用的TouchID功能,以支持面部识别软件----他们所谓的面部ID----已经引起了很多闲谈和辩论。围绕着“自拍安全”的未来会有很多疑问,但一个问题是,在面部识别软件中,有一个问题可以得到更多的发挥。

种族偏见问题长期以来一直困扰着科技界--过去十多年来,我曾听说过一些故事,说摄像机很难分辨出更深的肤色,或者声音识别的声音在口音上跌跌撞撞--但预计会大规模采用苹果新的面部识别技术,或许正是业界需要识别、隔离和最终纠正这些问题的地方。


关于种族偏见的观点,以及苹果的面部ID是否能可靠地和经常地为所有种族的用户工作,这一点特别尖锐,因为它不仅是安全问题,而且是我们文化Zeitegist中根深蒂固的问题。

最大的unknowns之一是用于开发面部识别系统的数据库。苹果声称,它使用了10亿图像来训练算法,理想地消除了数据库中的任何多样性问题。

我相信这种方法是正确的,但是在训练基于特定算法的人脸识别系统时,有一些具体的学习过程是由它们决定的。

我们不知道iPhoneX是在其数据库中使用的图像比率的细节。可能有十亿图像,但白人与中国、黑人或印度的比例是多少?

类似地,苹果公司声称,有千分之一的人可以通过面部识别识别到iPhone X,但这当然取决于问题中的“一百万”人。如果这一百万来自中国北部或印度南部,那么一个人不付出任何努力的机会就会高得多。

苹果公司没有报告的另一个错误指标是系统拒绝你的自拍,并要求再捕获一次,尽管你是手机的真正拥有者。因此,最有可能的是,这个错误(错误的拒绝错误)也会根据使用手机的人群而有所不同。换句话说,一些人口/种族将得到更多的拒绝和更多的要求,以恢复他们的自拍。

最终,这些仅仅是我们所提出的关键问题,直到手机问世,我们可以在实际中看到它,但是,如果技术历史已经教会了我们任何东西,系统就会有缺陷。对于个人和苹果来说,这些都很可能是痛苦的,但他们也将为解决这个问题提供平台。

种族偏见并不是面部识别面临的首要问题。多年来,人们一直在谈论指纹识别的安全风险,但欺骗对你的面部的风险要比你的指纹大得多。要偷取某人的指纹,你必须靠近他们,或者找到他们碰过的东西。

然而,我们的脸是公开的。你可以从Face book或任何其他社交媒体网站上得到一张某人的脸照片,甚至可以从这些图像中构建一个3D面具。如今,也有许多化妆师擅长创造与名人相同的外观。

这把我们带回了苹果,因为另一个热门话题是“邪恶的双胞胎”,遗传相似的人是否可以通过苹果的面部识别系统。在这方面,我可以预见,苹果将能够解决和解决这个问题。苹果已经做出了尖锐的努力,确保在部署面部ID之前考虑到这些问题。

该公司增加了一个正面红外相机和一个点投影仪,这将使照片或面具的攻击变得困难,因为它们可以设置为感知深度,防止有人使用一个人的平面图片来愚弄面部扫描仪。红外相机解决了照明条件差的问题,但通过点投影仪,这将有助于建立一个准确的三维模型脸,以提高性能和防止欺骗攻击。

苹果似乎已经做了更多的工作来解决这些担忧,因为它们向等待上市的公众广泛推出了面部识别技术。我们可以希望,同样的逻辑也适用于种族偏见问题。

苹果可以像其他公司一样改变公众的行为。由于他们的产品,我们听音乐的方式不同,使用媒体的方式也不同。看看其他主流生物识别技术:自从2013年iPhone5S推出Touch ID以来,消费者已经习惯了指纹识别作为生物特征认证的一种主要形式。

但是,更多的收养意味着面临着面部ID种族偏见问题的风险增加,这意味着苹果几乎肯定会在几周和几个月内处理这个问题。公司和公众的真正关键是认识到,这些缺陷不是技术中固有的,而是在我们的系统中对技术进行培训。

苹果的数据库是否足够大,足够多样化,才能真正具有包容性?很快我们就会知道,整个行业将学着更新和完善我们的实践,这样这项技术就像一种方便--而不一定是一个文化热点。

从某种意义上说,苹果正在进行大规模的文化技术试点,而对结果的关注将给整个行业带来我们需要的紧迫感,以广泛和明确地解决科技系统中的种族偏见问题。


郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。