一项新的联邦研究发现，世界上许多顶尖的面部识别算法都受到年龄、种族和人种的偏见。根据标准和技术研究所(NIST)进行的研究，市场上用于识别某些群体成员的算法的错误频率高达100倍。

NIST说，它发现了“经验证据”，表明年龄、性别和种族等特征将影响“大多数”算法。该团队测试了来自99个组织的189种算法，这些算法共同支持全球使用的大多数面部识别系统。

这些发现提供了更多的证据，表明世界上许多最先进的面部识别算法还没有为执法等关键领域做好准备。《华盛顿邮报》报道称，议员们称这项研究“令人震惊”，并呼吁政府重新考虑使用这项技术保护边境的计划。

立法者称这一结果“令人震惊”。

这项研究测试了“一对一”检查以匹配某人的护照或，以及“一对多”搜索，其中某人匹配较大数据库中的记录。在一对多搜索中，非裔女性识别频率最高，而在一对一搜索中，亚洲人、非裔美国人、美洲原住民和太平洋岛民识别错误。儿童和老人也错了。在某些情况下，亚洲人和非洲人被误认为100多次。通常在中年男性中发现准确率最高。

NIST的研究依赖于自愿提交测试算法的组织。但不在名单上的是亚马逊，它向当地警方和联邦调查人员出售了其Rekognition软件。此前的研究引发了人们对亚马逊系统准确性的担忧，人工智能研究人员呼吁亚马逊停止销售其“有缺陷”的系统。亚马逊声称其软件不容易被NIST分析(尽管拥有类似产品的高科技公司提交算法没有问题)，其股东拒绝了遏制Rekognition销售的呼吁。

专家表示，通过使用更多的训练数据集，可以减少这些算法中的偏差。研究人员发现，例如，亚洲开发的算法的错误率与亚洲人没有太大区别。

但是，如果以不尊重人的安全或隐私的方式使用这项技术，即使解决了偏见的问题，也无法解决面部识别的所有问题。

“嗯，它开发出来然后武器化的面部分析技术是什么？”Joy Buolamwini是一名人工智能研究员。去年接受《边缘》杂志采访时，他率先调查了面部识别偏差。技术考虑不能脱离社会影响。'