美国联邦贸易委员会(Federal Trade Commission)周二表示，连锁药店来德爱(Rite Aid)使用面部识别技术，错误地、不成比例地将有色人种和女性识别为可能的商店小偷。该系统令顾客感到尴尬，并引发了人们对此类技术中存在偏见的新担忧。
联邦贸易委员会表示，根据和解条款，来德爱将在五年内被禁止在其门店中出于监控目的使用面部识别技术。该机构负责执行联邦消费者保护法，似乎表明它将多么认真地回应人们对面部识别技术的担忧。
联邦贸易委员会长达54页的诉状还揭示了一个曾经理论上的担忧——人类偏见会渗入人工智能算法并放大歧视——如何在现实世界中成为一个令人担忧的问题。
美国联邦贸易委员会消费者保护局(Bureau of Consumer Protection)局长塞缪尔·莱文(Samuel Levine)在一份声明中表示，“来德爱对面部监控系统的鲁莽使用，让顾客面临羞辱和其他伤害。”
诉状称，从2012年10月到2020年7月，来德爱的员工根据系统发出的错误警报，在商店周围跟踪顾客，搜查他们，命令一些人离开，如果他们拒绝，就打电话给警察，让他们面对或带走，有时是在朋友和家人面前。
美国联邦贸易委员会表示，来德爱的行动对有色人种的影响格外严重，尤其是黑人、亚洲人和拉美裔人，而所有这些行动都是为了让“相关人员”远离纽约、费城和萨克拉门托等城市的数百家来德爱门店。
来德爱在一份声明中表示，虽然它不同意联邦贸易委员会的指控，但它“很高兴达成协议”。
该公司表示:“这些指控与该公司在有限数量的商店部署的面部识别技术试点项目有关。”“三年多前，在联邦贸易委员会对该公司使用该技术的调查开始之前，来德爱就停止在这一小群商店使用这项技术。”
大约两个月前，Rite Aid申请破产保护，并宣布计划关闭在10多个州的154家门店。
来德爱正在使用面部识别技术，因为零售连锁店正在对入店行窃，特别是“有组织的零售犯罪”发出警报，在这种犯罪中，多人从几家商店偷走产品，然后在黑市上出售。
这些担忧促使包括来德爱(Rite Aid)在内的几家商店通过将大部分商品锁在塑料盒中来保护商品。
但这些担忧似乎被夸大了。本月，美国零售联合会(National Retail Federation)收回了之前的错误估计，即有组织的零售犯罪造成了2021年945亿美元商店商品损失的近一半。专家表示，这个数字可能接近5%。
美国联邦贸易委员会表示，来德爱没有告诉顾客它在其门店中使用了这项技术，公司也“不鼓励员工透露此类信息”。
目前尚不清楚还有多少零售商在使用面部识别技术进行监控。梅西百货告诉商业内幕网，它在一些商店使用它。家得宝在其网站上表示，它收集“包括面部识别在内的生物识别信息”。
联邦贸易委员会委员阿尔瓦罗·m·贝多亚(Alvaro M. Bedoya)在一份声明中表示，在讨论监控如何侵犯权利和侵犯隐私时，不应忽视“监控会伤害人们这一直率的事实”。
“多年来已经很明显，面部识别系统对肤色较深的人和女性的表现不太有效，”贝多亚说。
波士顿大学(Boston University)研究面部识别技术和联邦贸易委员会的法学教授伍德罗·哈特佐格(Woodrow Hartzog)表示，该机构对来德爱的投诉表明，它将人工智能监控技术视为一种严重威胁。
哈特佐格教授说，该机构的投诉对象意义重大。尽管来德爱雇佣了两家未具名的公司来帮助建立一个它认为可能入店行窃的人的数据库，但联邦贸易委员会只对来德爱进行了调查。
他说，联邦贸易委员会基本上是在说，“我们针对的有罪行为是，在与其他供应商合作时，没有做尽职调查。”
官员们说，投诉指出，来德爱在城市地区和公共交通路线上使用了监控系统，导致对有色人种的影响不成比例。
大约80%的来德爱商店位于白人是最大种族或族裔群体的地区。但根据联邦贸易委员会的数据，60%使用面部识别技术的来德爱(Rite Aid)门店位于白人不是最大种族或族裔群体的地区
来德爱(Rite Aid)对店内的保安人员进行了培训，让他们把被认为是“有兴趣的人”的图像输入一个“登记数据库”，员工被告知要“尽可能多地登记”。联邦贸易委员会表示，数据库中充斥着低质量的图像，其中许多图像来自闭路电视、手机摄像头和媒体报道。
官员们表示，这个有缺陷的系统导致了数千次“假阳性匹配”，即错误地显示某位顾客与来德爱数据库中的某个人“匹配”。投诉称，更糟糕的是，来德爱没有办法追踪误报。
“来德爱未能对操作面部识别技术的员工进行适当培训或监督，这进一步增加了对消费者造成伤害的可能性，”ftc说。
在一个案例中，Rite Aid的员工拦下并搜查了一名11岁的女孩，该女孩被系统错误地标记为可能会入店行窃。
在起诉书中引用的另一个例子中，一名黑人男子在成为面部识别匹配假阳性的受害者后，写信给来德爱。
“现在当我走进一家商店时，感觉很奇怪，”他说，并补充道:“不是每个黑人都是小偷，也不应该让他们觉得自己是。”
爱德华多·梅迪纳是报道突发新闻的记者。更多关于Eduardo Medina的报道