| 
亚马逊人脸识别再次陷入舆论漩涡。该产品此前就遭到亚马逊用户、民间组织、股东甚至亚马逊员工在内超过15万人联名抗议。最近，在美国公民自由联盟(ACLU)的一次测试中，它将535名美国国会议员中的28人误判为罪犯!
糗大了！亚马逊人脸识别误判28名国会议员为罪犯
亚马逊人脸识别产品Rekognition又闯祸了
Rekognition是亚马逊最具争议的产品之一。这是一款在亚马逊服务器上运行的图像识别AI软件，用户需要为使用该软件处理的每张图片向亚马逊付费。
它可以识别图像或视频上的文字、对象、场景、活动和人员。亚马逊正积极地将其面部识别技术卖给执法部门。在美国，警方已经开始使用该软件来寻找走失的儿童和被拐卖的人口。
最近，ACLU找到了一些看似令人信服的证据——他们使用亚马逊的Rekognition人脸识别工具，扫描了全部535名美国国会议员的照片，并将它们与25000张警方公开的罪犯面部照片进行了比对。他们使用亚马逊为Rekognition的默认匹配设置。
结果，系统错误地将28名国会议员的照片与罪犯面部照片进行了配对。也就是说，亚马逊的人脸识别工具认为，535名国会议员中，有28名议员看起来像是罪犯,错误率达到5.2%。
被错误匹配的议员中，有色人种的比例显著过高(11人)，仅国会黑人同盟(Congressional Black Caucus)就有6名成员被误判，其中包括著名的民权活动家众议院议员约翰·刘易斯(D-Ga)。测试表明，对于皮肤较黑的人和女性，人脸识别通常不太准确。虽然对于整个国会来说，错误率是5.2%，但对于非白人的国会议员，错误率达到39%。
ACLU强调，整个测试只花费了12.33美元。他们使用的是亚马逊提供给所有用户的面部识别系统，任何人都可以用它来扫描人脸图像，进行匹配。ACLU希望此结果促使国会加入抵制行列，呼吁执法部门停止使用亚马逊人脸识别系统。
亚马逊表示：不背锅
亚马逊方面回应，其软件的设计本意是辅助人类工作，造成误判的原因是ACLU在实验中使用了错误的设置，将识别阈值定为80%，一般在警方工作中建议阈值不低于99%——简而言之，这锅我们可不背。
事实上，美国公民自由联盟(ACLU)是在默认的80%置信度阈值设置下使用Rekognition软件，而不是亚马逊为执法机构推荐的95%以上的置信度水平。
鉴于ACLU并没有公开其实验设置细节，亚马逊自己做了一个测试。他们使用 850,000 张学界通用的人脸和所有美国国会议员的图片，将识别阈值调到99%以后，误判率为0%。此外，ACLU使用的罪犯照片也可能模糊不清，导致识别出错。
亚马逊发言人通过电子邮件回应道：机器学习是一个帮助执法机构非常有价值的工具，虽然担心它会被滥用，但我们不应该因为把温度调错烤糊了比萨就扔掉烤箱。
ACLU表示，即使是面向安全目的的人脸识别，亚马逊网站也认为80%的置信度已经足够。
一位知情人士表示，当亚马逊直接与执法机构合作时，如奥兰多警察局，亚马逊会教他们如何减少误报，避免人为的偏见。
值得注意的是，“误报”是人脸识别技术公认存在的问题。
包括ACLU在内的所有人都没有说过，警方会仅凭人脸识别软件的“误报”就去逮捕某人。人脸识别缩小了嫌疑犯名单的范围，接下来是由人类来接管。
对此，你们是怎么看的呢？ |
