删除超过10亿用户的数据,Facebook关闭面部识别系统
2021-11-05
来源:CSDN
Facebook新母公司Meta的人工智能副总裁杰罗姆·佩森蒂(Jerome Pesenti)周二在一篇博客文章中表示:“这一决定将是历史上人脸识别技术最大的转变之一。关闭面部识别系统将导致超过10亿用户的个人面部识别信息被删除。”
权衡利弊
杰罗姆·佩森蒂表示,他们之所以做出改变,是因为面部识别技术引发了人们越来越多的担忧。他还补充,该公司仍然认为人脸识别是一个强大的工具,但“每一项新技术都有两面性,我们希望找到正确的平衡。”
佩森蒂说,这些变化可能会对视障群体产生负面影响。“能够告诉盲人或视力受损的用户,照片上有他们的高中朋友或前同事,这是有价值的,他们也能够更容易地访问社交媒体。”
Automatic Alt Text(AAT)是Facebook为视障和盲人用户创建的图像描述技术。虽然AAT仍然能够识别出照片中的人数,但它将不再使用面部识别功能来识别照片中的每个人。
但Facebook仍将在小范围内使用该人脸识别,用户可以通过人脸识别解开自己被锁定的账户,或在使用其金融产品时通过人脸识别验证身份。他表示,监管机构仍在制定一套明确的规则来监管这项科技,在这一过程依旧存在不确定性之际,该公司认为把人脸识别的使用限制在小范围的用例上是适当的。
此外,Facebook的母公司Meta似乎正在研究识别用户身份的新形式。佩森蒂说,公司试图从这种广泛的身份认证转向更狭义的个人身份认证。佩森蒂表示:“在个人的设备上进行私人操作时,面部识别尤其有价值。这种个人设备上的面部识别不需要与外部服务器进行面部数据通信,是目前用于解锁智能手机的常用方法。”
监管压力
圣母大学(University of Notre Dame)技术伦理学教授克里斯汀·马丁(Kristen Martin)认为,这一决定“对用户和公司都有利”。她表示,这一举措也显示了监管压力的力量,因为人脸识别系统已经受到了十多年的严厉批评。
民主与技术中心(Center for Democracy and Technology)安全与监控项目的联合主管莎伦·布拉德福德·富兰克林(Sharon Bradford Franklin)表示,人脸识别是一个「技术发展速度」快于「相关法规完善」的领域。
使用面部识别技术时的种族偏见是一个令人担忧的问题。多年来,研究人员和隐私专业人士一直在对这项技术提出质疑,他们援引的研究发现,在涉及种族、性别或年龄界限的情况下,这项技术发挥的作用并不稳定,与白人面孔相比,黑人和棕色面孔的误认率要高得多。此前就有过相关报道,Facebook的人工智能在一段有关黑人的视频上误贴“灵长类”标签。
面部识别技术近年来有所进步,有越来越多的执法机构也在使用,这促使隐私专家呼吁对其进行监管。政府问责局8月份的一份报告发现,在接受调查的24个联邦机构中,有18个机构报告称使用了面部识别功能,约10个机构计划到2023年扩大使用范围。
隐私专家称赞Facebook的这项决定是朝正确方向迈出的重要一步。
伦理问题清算
美国一些城市已经采取行动,禁止警方和其他市政部门使用面部识别软件。2019年,旧金山率先宣布这项技术非法。
由于担心侵犯公民权利、侵犯隐私和种族歧视,约有7个州和近20个城市限制了政府机构对该技术的使用。
Facebook此举正值科技行业使用人脸识别技术在伦理问题上面临清算之际。目前为止,IBM已经永久性终止人脸识别产品的销售,微软和亚马逊已经无限期暂停向警方出售人脸识别技术。