专家质疑伦敦警方面部识别无偏见声明:研究证据不足,样本量存疑
一位在面部识别技术领域领先的专家对伦敦大都会警察局(Metropolitan police)声称其使用现场面部识别(LFR)技术不存在偏见提出质疑。该专家指出,警方引用的报告并未能证实其无偏见的说法。
该专家,即Pete Fussey教授,曾领导过唯一一项对警方使用面部识别技术进行的独立学术审查,并曾于2018-2019年担任大都会警察局LFR的审查员。他目前为英国及其他国家的警方提供LFR使用方面的咨询。大都会警察局正计划在即将到来的银行假日周末于伦敦西部诺丁山嘉年华(Notting Hill carnival)上进行其迄今为止规模最大、最受瞩目的LFR部署。尽管平等与人权委员会(Equality and Human Rights Commission)已声明警方使用LFR属非法行为,大都会警察局仍坚持使用。
大都会警察局声称,在2023年委托国家物理实验室(NPL)进行的一项研究后,其LFR使用已得到改革,并且现在已基本实现无偏见。然而,Fussey教授表示,大都会警察局关于NPL报告未显示偏见的说法,并未得到报告中事实的支持。NPL报告发现在0.56的灵敏度设置下存在偏见,而在0.6的设置下,测试中有七例错误地将人员标记为通缉犯——即假阳性,且均为少数族裔。Fussey教授认为,该研究的样本量过小,不足以支持大都会警察局的说法,并指出警方基于少数几例错误匹配就得出普遍性结论,统计基础薄弱。
大都会警察局目前使用的LFR灵敏度设置为0.64,NPL研究称此设置不会产生假阳性。但Fussey教授指出,根据该研究,在警方声称无偏见的0.64或更高设置下,并未实际评估假阳性情况。他认为,科学界鲜有证据支持从如此小的样本中推断出的结论。
大都会警察局情报总监Lindsey Chiswick驳斥了Fussey教授的说法,称NPL报告是世界知名机构的客观报告,大都会警察局的评论基于该独立报告的发现。她强调,在0.64的设置下,不存在统计学上的显著偏见,并表示已利用研究结果来规避算法中的潜在偏见风险。
Fussey教授最后强调,虽然警方使用技术保障公众安全无可厚非,但必须在适当的问责机制下,并符合人权标准进行。

网友讨论