奥兰多警方再次放弃了亚马逊的面部识别软件

亚马逊有争议的Rekognition平台,其人工智能驱动的面部识别软件,已不再被奥兰多执法部门使用,结束了在佛罗里达州中部的试验阶段使用该技术的第二次尝试。原因是:城市没有必要的设备或带宽来使其正常运行,而且从来没有能够实时测试它。

据“奥兰多周刊”报道,这一消息标志着Rekognition的另一个引人注目的挫折,Rekognition一直受到批评其对偏见警务,非法监视和种族貌相的贡献的批评,以及亚马逊出售它的秘密方式。警察部门仍处于积极发展阶段。

执法部门对Rekognition的使用在去年5月首次曝光,这要归功于北加州美国公民自由联盟获得并公布的文件。当时,亚马逊正在向奥兰多和俄勒冈州华盛顿县的警察部门出售基于云的面部识别平台,但它没有向执法公众宣传,实际上采取了诸如保密协议等措施来保密。

亚马逊的系统受到了人工智能研究人员和民权组织的巨大批评

然而,亚马逊收到了来自人工智能社区,活动家和民权组织的重大阻力,他们担心其固有的缺陷将导致非法监视和其他侵权行为,如种族貌相和非法逮捕。研究表明,亚马逊的系统可能会返回大量的错误匹配,并且更难以准确识别肤色较深的个体和女性的性别。

亚马逊仍然坚定不移地认为Rekognition将被用作警务的辅助工具,并且指示官员只有在确定匹配率达到99%时才依赖它。但目前尚不清楚亚马逊如何积极监控参与机构违反其服务条款的情况,该公司声称该条款允许其暂停或禁止非法或不合法使用Rekognition的组织和个人。该公司去年表示,尽管外部和公司内部都受到了严厉的批评,但该公司仍会继续将该软件出售给美国执法部门。批评者包括员工,股东和着名的AI研究人员。

据“纽约时报”报道,由于压力,看起来奥兰多与亚马逊签订的合同将于去年6月底到期。但是,奥兰多周报在去年10月报道了试验计划,警方试图让警察部门市中心总部周围的四台摄像机以及位于社区娱乐中心外的一台摄像机运行系统。

现在,大约10个月后,该计划再次获得斧头。根据当地警方的说法,它需要花费太多金钱,并且安装起来太麻烦,亚马逊员工无法帮助城市获得一个可靠的实时流,可以实时运行该软件。据报道,该公司提出提供自己的相机,但该市拒绝依赖亚马逊硬件。

该市首席行政办公室在给市议会的一份备忘录中写道:“目前,该市未能将资源用于试点,使我们能够在完成所需的配置和测试方面取得任何显着进展。”奥兰多的警察部门“没有立即计划未来的飞行员探索这种类型的面部识别技术。”该市的首席信息官Rosa Akhtarkhavari告诉Orlando Weekly第二个试验阶段,“我们今天甚至没有建立过一条小溪。我们谈论了一年多以后。“Akhtarkhavari说,系统从未在实时图像上进行过一次测试。

“亚马逊的监控技术不起作用,对我们的隐私和公民自由构成威胁。”

ACLU的Matt Cagle是一位技术和公民自由律师和声音Rekognition评论家,曾帮助宣传亚马逊与执法部门的合作,他在给Verge的声明中表示,“祝贺奥兰多警察局最终弄清楚我们长期警告的事情 - 亚马逊的监视技术不起作用,对我们的隐私和公民自由构成了威胁。“Cagle补充道,”这个失败的试点项目正是为什么公众应该通过他们当选的领导人而不是秘密游说警察官员的公司做出监督决定的原因。部署针对公众的危险系统。“

对于Rekognition来说,这远非结束。该软件仍在使用俄勒冈州的华盛顿县,华盛顿邮报4月发表的一篇文章声称它已在该州“加强”警方的努力。该实施主要由一个数据库组成,该数据库可以对已知犯罪数据库的面孔上传照片进行交叉检查,似乎比在毫无戒心的公民身上运行面部识别技术的实时视频源更具侵入性。

尽管如此,美国城市开始反对不受监管的面部识别使用,加州奥克兰加入其湾区对口旧金山投票禁止政府在昨天使用该技术。第三个也是唯一一个禁止警方使用该软件的法律规定的城市是马萨诸塞州的萨默维尔。预计未来更多的城市将面临使用面部识别软件的防御措施,即使亚马逊正在向全国各地的代理商推销面部识别软件。该公司没有立即发表评论。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。