Categories: 未分类

美国人脸识别无处不在,我们该怎么办?(2023年)

答案

建议、员工推荐、揭秘等等。让我们来帮助你。

人脸识别无处不在。以下是我们可以采取的措施。

人脸识别是一种软件,它可以对照片或视频中的人脸进行映射、分析和确认身份,是迄今为止最强大的监控工具之一。尽管许多人只是将人脸识别视为解锁手机或整理照片的一种方式,但公司和政府如何使用它将对人们的生活产生更大的影响。

当它是你拥有的设备或你使用的软件时,你可能可以选择退出或关闭人脸识别,但摄像头的普及使得在公共场所避免这项技术越来越困难。对于这种普遍性的担忧,再加上种族歧视和抗议者识别的证据的放大,已经导致亚马逊、IBM和微软等主要公司禁止向执法部门销售他们的软件。但随着禁令的到期和人脸识别技术的进步和降价,社会将需要回答关于如何对人脸识别进行监管的重大问题,以及关于我们每个人愿意使用哪些服务和做出哪些隐私牺牲的小问题。

人脸识别软件的工作原理

大多数人都在电影中看到过几十年来使用的人脸识别技术,但很少能正确地描绘出来。每个人脸识别系统的工作方式都不同,通常建立在专有算法的基础上,但你可以将其过程分为三种基本类型的技术:

  • 检测是在图像中找到人脸的过程。如果你曾经使用过能够检测到人脸并在其周围绘制一个框以自动对焦的相机,那么你就见过这种技术的实际应用。单独而言,它并不邪恶,人脸检测只关注于寻找人脸,而不关注其背后的身份。
  • *分析(也称为归因)*是将人脸进行映射的步骤,通常是通过测量眼睛之间的距离、下巴的形状、鼻子和嘴之间的距离等来实现,然后将其转化为一串数字或点,通常称为“人脸特征”。有趣的Instagram或Snapchat滤镜也使用了类似的技术。尽管分析可能会出现故障,特别是涉及误识别的情况,但只有当人脸特征被添加到识别数据库中时,这通常才会成为问题。
  • 识别是试图确认照片中人物身份的过程。这个过程用于验证,比如在新款智能手机上的安全功能,或者用于识别,试图回答“这张照片中是谁?”这是技术进入可怕一面的地方。

人脸识别的检测阶段始于一个算法,该算法学习什么是人脸。通常情况下,算法的创建者通过使用人脸照片对其进行“训练”来实现这一点。如果你塞进足够多的照片来训练算法,随着时间的推移,它会学习到墙上的插座和人脸之间的区别。再加上另一个用于分析的算法,以及另一个用于识别的算法,你就有了一个识别系统。

输入系统的照片的多样性对于其在分析和识别步骤中的准确性有着深远的影响。例如,如果样本集主要包括白人男性(这是早期人脸识别系统训练的情况),那么这些程序在准确识别BIPOC人脸和女性方面将会遇到困难。 最好的人脸识别软件最近开始对此进行纠正,但白人男性与其他群体相比,误匹配的频率较低(PDF)一些软件经常错误地识别一些黑人和亚洲人,比白人男性多出100倍。斯坦福大学数字公民社会实验室研究员、TikTok内容咨询委员会成员穆塔莱·恩孔德指出,即使系统运行完美,性别识别仍存在问题:“标签通常是二元的:男性、女性。这种类型的系统无法识别非二元性别,甚至无法识别已经变性的人。”

一家公司训练其软件以便检测和识别人脸后,该软件可以在数据库中查找和比对其他人脸。这是“识别”步骤,软件访问照片数据库并交叉参照以尝试根据来自各种来源的照片识别一个人。然后它显示结果,通常按准确性进行排名。这些系统听起来很复杂,但只要具备一些技术技能,你就可以使用现成的软件自己构建一个人脸识别系统

人脸识别的简要历史

人脸识别的根源可以追溯到1960年代,当时伍德罗·威尔逊·布莱索开发了一套测量方法,用于对人脸照片进行分类。然后可以将新的、未知的面孔与先前输入的照片的数据点进行比较。按现代标准来说,该系统并不快速,但它证明了这个想法是有价值的。到了1967年,执法部门已经开始产生兴趣,并且这些组织似乎资助了布莱索进一步研究的费用,这些研究从未发表过,但涉及一个匹配程序。

在70年代、80年代和90年代,以“特征脸方法”(PDF)和“费舍尔脸”为代表的新方法改进了技术的能力,可以定位人脸,然后识别特征,为现代自动化系统铺平了道路。

人脸识别首次引起公众关注的同时也引发了第一次大规模争议。2001年,执法官员在第35届超级碗上对人群使用了人脸识别技术。批评者称其违反了第四修正案对不合理搜查和扣押的权利。同年,警方首次广泛使用该技术,由Pinellas县治安官办公室运营的数据库,如今已成为全国最大的地方数据库之一。

再快进几年到2008年,伊利诺伊州的“生物特征信息隐私法”开始生效,成为美国第一部规范非法收集和存储生物特征信息(包括人脸照片)的法律。电子前沿基金会的监控诉讼主任詹妮弗·林奇将BIPA描述为商业监管的典范。“伊利诺伊州要求在收集任何生物特征信息时进行通知并书面同意,”她说。“目前,伊利诺伊州是唯一要求如此的州。”

2010年代开启了人脸识别的现代时代,因为计算机终于足够强大,可以训练出需要的神经网络,使人脸识别成为标准功能。2011年,人脸识别用于确认奥萨马·本·拉登的身份。2014年,Facebook公开展示了其DeepFace照片标记软件,同年,人脸识别在芝加哥定罪了一个小偷,也是爱德华·斯诺登发布文件揭示美国政府收集图像的程度的一年。2015年,巴尔的摩警方使用人脸识别来识别弗雷迪·格雷在警车上遭受的脊柱伤害后引发的抗议活动的参与者。 面部识别首次作为安全功能进入个人设备,如2015年的Windows Hello和Android的Trusted Face,然后在2017年的iPhone X和Face ID的推出中得到应用。

从那时起,事情有所加剧:

  • 2017年,唐纳德·特朗普总统发布行政命令,加速在美国边境使用面部识别技术(私人航空公司此后也努力将该技术纳入使用)。
  • 2018年,泰勒·斯威夫特的安全团队使用面部识别技术来识别跟踪者,并且中国迅速增加了面部识别的使用。面部识别作为一项常规安全措施出现在麦迪逊广场花园,并且美国的零售商尝试使用该技术来追踪合法顾客和扒手。
  • 2019年,纽约的一位房东试图安装面部识别技术来替代钥匙,并且一些学校也尝试了同样的做法。
  • 如今,加利福尼亚州的旧金山、奥克兰和伯克利,以及马萨诸塞州的波士顿和索默维尔等几个城市已经禁止政府机构使用面部识别技术。该国还出现了美国首例伪造阳性结果导致逮捕的案例。在黑人的命也是命警察暴行抗议活动开始后,包括亚马逊、IBM和微软在内的几家大型面部识别供应商停止向执法部门销售他们的技术。

然而,其他新的参与者已经进入了这个领域。Clearview AI在2020年初成为新闻热点,当时《纽约时报》揭示该公司定期使用其识别软件对从互联网各个来源(包括社交媒体、新闻网站和就业网站)获取的照片数据库进行运行,Wirecutter和其他许多人在测试中能够证实,以此来识别嫌疑人。2020年5月,美国公民自由联盟在伊利诺伊州法院对Clearview AI提起诉讼,指控其侵犯了伊利诺伊州居民的隐私权。Clearview AI只是一个例外,因为它面临公众审查:同样存在其他不道德的软件公司,这些公司将软件销售给地方执法部门,通常没有对照片来源或识别算法的监管或公众审查。

面部识别的赞成和反对观点

支持者认为面部识别软件很有用,因为除了识别嫌疑人外,它还可以监视已知罪犯,并帮助识别虐待儿童的受害者。在人群中,它可以监视大型活动中的嫌疑人,并增加机场或边境口岸的安全性。最长时间运行的面部识别软件类型是将照片与政府控制的数据库进行比对,比如FBI的超过4亿张照片数据库,其中包括一些州的驾驶执照,以识别嫌疑人。地方警察部门使用各种面部识别软件,通常从私人公司购买。

面部识别除了在执法方面外,还有一长串的好处,可以为日常生活和体验增添便利性或安全性。面部识别有助于整理照片,在保护设备(如笔记本电脑和手机)安全方面很有用,并且在帮助盲人和视力低下的群体方面有益。它可以成为进入商业场所的更安全选项,可以在自动取款机上防止欺诈,可以用于活动注册或登录在线账户。面部识别在广告和商业应用方面有着各种各样的潜在好处,包括追踪商店中的顾客行为以个性化在线广告。 布伦达·莱昂(Brenda Leong)是隐私未来论坛(Future of Privacy Forum)的高级顾问兼人工智能与伦理主任。她在一次采访中建议,支持者认为人脸识别可以替代忠诚度计划或门禁系统:“你只需经过一组摄像头,所有这些事情都会非常顺利地发生,体育场馆、活动场所、游乐园,所有这些地方都在使用或有使用类似方法的想法。”

反对者认为这些好处不值得隐私风险,他们也不相信这些系统或运行它们的人。争议的第一点在于数据的收集本身——执法部门很容易收集照片,但公众几乎无法避免自己的图像被拍摄。例如,警察在逮捕前就会拍摄嫌疑人的照片。识别中的错误率也是一个问题,无论是误报还是漏报,都存在问题,误将无辜者误认为罪犯,或者未能识别出真正的罪犯。

执法机构使用的人脸识别软件目前无法接受公众审计,而驱动检测和识别软件的算法通常是封闭的专有系统,研究人员无法进行调查。当公众不知道这些人脸识别系统如何工作或准确度如何时,公众就不知道这些系统是否被恰当地使用,尤其是在执法方面。软件开发人员约瑟夫·弗洛雷斯(Joseph Flores)在业余时间使用机器学习进行艺术项目(声明:我曾与弗洛雷斯合作进行相关艺术项目,仅出于娱乐目的,非牟利),他向我解释了他经常有意地对数据集进行偏置以产生他想要的结果,执法机构也可以这样做:“你可以对执法部门的人脸识别数据进行同样的操作,确保你的朋友不被识别,而你的敌人被错误地认定为罪犯。”弗洛雷斯补充道:“很难对无法审查的数学的合法性或可靠性提出质疑。尤其是在我们所讨论的数据规模下。没有审查,一切都是虚假的,就像现代的颅相学。”

另一个日益严重的问题是执法机构对实时识别的兴趣,包括实时视频流或警察佩戴的摄像头。但即使是那些热衷于推进这项技术的城市,比如佛罗里达州的奥兰多,在警察部门试图通过亚马逊的Rekognition软件实时从视频流中识别嫌疑人后,也在技术未能达到预期效果后收回了这些努力。但仅仅因为实时人脸识别在大规模实时测试中仍然存在问题,并不意味着它不会在未来广泛应用。这个想法对于一些社区来说是令人震惊的,以至于这种做法在加利福尼亚、俄勒冈和新罕布什尔州已经被暂时禁止。

人脸识别和监管的未来

一般来说,人脸识别的未来可能有三种可能形式:完全没有监管、有些监管和禁止。

没有监管 {#no-regulation}

没有人脸识别监管的世界可以由《黑镜》的剧集自己描绘。布伦达·莱昂提供了一些例子:“通过你的面部进行无处不在的追踪非常容易,因为摄像头无处不在。如果你是学生,它可能会实时监测你是在专注于学习还是发呆。如果你是员工,它可能监测你在电脑上的参与度,或者判断你是否走神。” 监控可能性的清单几乎是无穷无尽的,中国的“社会信用分数”或伦敦警察部队实时使用的面部识别摄像头只是其中一个特别可怕的现实的一瞥。

监管 {#regulation}

截至目前,美国联邦层面有一项提议的法律禁止警察和联邦调查局使用面部识别技术,另一项法律允许在获得搜查令的情况下进行例外处理。还有另一项法案要求企业在公开使用面部识别软件之前征得同意,还有一项法案禁止在公共住房中使用面部识别技术。尽管面部识别技术当然正在经历一个时刻,但目前尚不清楚这些法案中的哪一项,如果有的话,将得到足够的支持成为法律。

当任何人谈论监管面部识别技术时,他们需要将这个想法分为两个部分:监管商业使用和监管政府使用,包括执法部门的使用。

在商业使用方面,Leong强调,监管任何商业功能(如忠诚度计划、主题公园VIP通行证等)的主要重点应该是征得同意。她说:“面部识别技术‘绝不能成为默认选项’,‘绝不能成为标准服务条款或隐私政策的一部分’,‘绝不能成为你必须选择退出的事情’。”在联邦层面上,了解这种监管可能如何在实践中运作的最简单方法是看看伊利诺伊州的BIPA法案,该法案要求在实体收集和使用生物识别数据(包括面部特征)之前征得同意,并对该数据的存储提出要求。

然而,征得同意可能会有些棘手。商店问你是否愿意跳过出示身份证明进入的要求和商店使用这项技术跟踪所有特许经营地点的扒手是两回事。作为一个例子,EFF的Jennifer Lynch指出了伦敦的一个商业区最近的一个案例,一家公司在私人经营区域放置了摄像头,附近工作的人会经过那里:“你可以看到商业区可能会说,‘哦,我们张贴了告示牌’,”Lynch说。“所以人们知道当他们走进这个区域或者他们的面部被记录和捕捉时,但我不认为人们在那种情况下能够真正有意义地同意。如果你在那个区域工作,你可能没有选择在别的地方工作。”

对于政府使用面部识别技术,建议的政策方法各不相同。Leong表示,尽管未来隐私论坛的主要关注点是商业使用面部识别技术,该组织也希望看到政府使用面部识别技术的监管。“我们非常希望看到有关政府如何可以和应该使用面部识别技术的明确、有意的监管指导,”她说,“即使只是明确规定机构需要何种级别的搜查令或合理理由才能访问该技术。”

包括EFF在内的其他组织认为,对执法部门的监管还不够。

禁止 {#banning}

EFF的Lynch认为,仅仅进行监管是不够的。“我们正在推动在联邦、州和地方层面上禁止或至少暂停政府使用面部识别技术,”Lynch说。“这是一项真正具有改变游戏规则的技术,我认为我们正处在历史的关键时刻,我们可以阻止政府广泛使用面部识别技术。”

尽管面部识别技术正在解决其多样性问题,但在其使用方式方面仍存在太多潜在问题。“安全和执法行业的基础是黑人具有危险性的观念,”Mutale Nkonde说。“因此,在考虑用于执法或安全的工具时,对黑人的部署将是不成比例的。” 这就是为什么Nkonde支持完全禁止使用该软件:“我希望看到对人类主体实施禁令,因为我认为隐私权的牺牲太大了。”

使用带有面部识别的日常物品的隐私提示 {#privacy-tips}

尽管政策变化,无论是以监管还是禁令的形式,提供了国家范围内最清晰的前进方式,但实施这些变化需要时间。与此同时,人们在日常生活中与面部识别互动的一些较小但不可忽视的方式是值得深思的。

“我认为令人担忧的事情,以及模糊区别的地方,就是我们使用面部识别的越多,我们就越不会把它看作是在世界上具有风险的事情,我们会逐渐习惯于它,”Lynch说道。“我认为从在手机上使用面部识别到政府使用面部识别来追踪我们的行踪,这是一个滑坡。”

  • **谷歌照片或苹果照片中的面部识别怎么样?**照片组织是许多人第一次见到面部识别的时候。苹果公司曾经大肆宣传其照片中的面部识别数据是在设备上运行的(PDF格式)。这种技术比云服务器更私密,但准确性也比基于云的软件低。谷歌照片中的面部分组可以非常准确,但谷歌的各种服务和设备意味着该公司倾向于在其提供的服务之间自由共享数据。2016年,谷歌因使用面部识别而在伊利诺伊州被起诉,但该诉讼后来被驳回。2020年,一起新的集体诉讼指控类似的违规行为。尽管使用照片应用程序中的面部识别功能按面部组织照片提供了可量化的好处,但也需要考虑隐私权的权衡。很难确切知道一家公司可能如何滥用您的数据;这就是照片存储公司Ever的情况,其客户在没有意识到的情况下训练了Ever AI算法。您可以在谷歌照片中禁用面部分组。您无法在苹果的照片应用中关闭相应的功能,但如果您不主动将照片与姓名关联起来,识别数据将永远不会离开您的设备。

  • **脸书怎么样?**脸书可能拥有有史以来最大的面部数据集,而且如果有一件事多年来脸书已经证明了,那就是人们不应该相信该公司会对其收集的数据做正确的事情。脸书最近同意支付5.5亿美元以解决伊利诺伊州关于其照片标记系统的诉讼。这里是如何选择退出的方法。

  • **解锁手机或电脑怎么样?**目前,面部解锁通常仅在设备本身上进行,该数据永远不会上传到服务器或添加到数据库中。

  • **家用安防摄像头中的面部识别怎么样?**由于这些安全摄像头系统在记录和自动选择人员时缺乏明确的同意,往往违反当地的隐私法律,这是许多人忽视考虑的伦理问题。目前,只有少数家用安防摄像头包括面部识别,包括Wirecutter的智能门铃升级选择,谷歌的Nest Hello。然而,Nest摄像头上的面部检测默认是关闭的。对隐私权倡导者更令人担忧的是Ring摄像头的潜在面部识别功能,该系统通过其邻居应用程序与警方共享数据。

  • **你需要担心每年出现一次的那些有趣的面部应用程序吗?**最近在这个领域突破的应用程序是FaceApp,它通过让人们变老而获得了流行。 尽管该公司声称不使用该应用程序来训练面部识别软件,但如果该公司被出售,很难知道该应用程序收集的数据可能会发生什么情况。下一个FaceApp版本也是如此。最好对这种类型的软件保持警惕。

  • 如果戴口罩,面部识别能否识别您? 现在不太可能,但将来可能会。中国的一家公司成功地对95%的戴口罩者进行面部识别,但该特定软件是为大约5万名员工的小规模数据库设计的。公司正在竭力解决这个问题。

社会将如何发展将是政策和人们个人习惯的结合,但关于这项技术的讨论可能会持续很长时间。就像任何技术一样,面部识别本身只是软件,但正如Mutale Nkonde所指出的,社会如何使用它才是重要的:“我介入的重点是工具对我们的公民和人权产生的影响,因为我认为所有技术都是中立的。”

上述提及 {#linked-heading}

纽约时报精选

纽约时报旗下的产品评测平台,帮助您百里挑一!

纽约时报精选

纽约时报旗下的产品评测平台,帮助您百里挑一!

Published by
纽约时报精选