波士顿禁用人脸识别:该技术导致严重的种族歧视

      最后更新:5天前 手机定位技术交流文章

      波士顿也宣布禁止人脸识别技术。

      6月24日,马萨诸塞州首府和最大城市波士顿市议会以13票赞成、0票反对通过了《波士顿禁止面部监控技术条例》。

      根据该条例,波士顿的任何市政当局或公务员都不能获取、保留、拥有或使用面部监控系统以及通过此类系统获得的信息,也不能通过与第三方合作来规避该条例。违规获取的人脸监控数据将被视为非法数据,一经发现将被删除。

      城市官员说波士顿警察局以前没有使用过这项技术,但是相关部门如果升级了软件就可以得到这项功能。

      采用该法规相当于从源头上消除了波士顿对该技术的使用。

      目前,波士顿在人脸识别能力低下的城市中仅次于旧金山,位居第二。

      旧金山和波士顿,其中一个是推特、Airbnb和优步的总部;一个是著名大学的所在地,如哈佛和麻省理工学院。它们都是充满科技活力的领域。为什么他们禁止人脸识别,一种先进的人工智能相关技术?

      反对者提出了两个理由:

      首先,他们认为这项技术会威胁公民的权利。其次,他们认为面部识别技术有缺陷,会导致严重的种族问题。

      第二个原因在种族抗议愈演愈烈的时候更加重要。

      提出该法案的波士顿市议员里卡多·阿罗约和市议员吴弭指出,这项技术对有色人种来说非常不准确。

      阿罗约在听证会前说:“这有明显的种族偏见,非常危险。”。

      根据该法案,“有证据表明,人脸识别技术在识别非裔美国人和亚裔美国人群体时准确度较低。面部识别监控中的种族偏见可能会伤害有色人种,有色人种本身也受到了更多的监控和骚扰。”

      在周三的会议上和投票前,吴梦说波士顿不应该使用种族歧视技术。我们正试图结束系统性的种族主义,所以结束对有色人种社区的过度监控应该是其中的一部分。 ' '

      值得一提的是,吴梦是一位美籍华人国会议员,他的父母从台湾移民到美国。她也是第一位成为波士顿市议员的亚洲女性。

      他们的担忧并非没有道理。

      《纽约时报》曾在一篇文章中提到,有色皮肤的人脸识别错误率明显增加。

      麻省理工学院媒体实验室的研究员乔伊·博纳姆维尼和微软的科学家蒂姆尼特·格布鲁合作完成了一篇名为《性别阴影:商业领域的区域间准确性差异》的研究论文,作者比较了微软、IBM和奇耻大辱技术三种人脸识别技术。结果表明,黑人女性的人工智能人脸识别错误率高达21%-35%,而白人男性的错误率不到1%,且不同种族的准确率差异很大。

      据《纽约时报》报道,这项研究还引发了一场关于人工智能中是否存在社会不公正甚至种族歧视的讨论,但显然不是。原因是人工智能数据的数量影响人工智能的判断。深色皮肤的女性很难识别,除了自然面部特征更难提取之外,缺乏训练数据集也是影响因素之一。

      文章指出当前人工智能是数据为王,数据的质量和数量将影响人工智能的智能化程度。因此,如果用于训练人工智能模型的数据集中白人男性多于黑人女性,系统识别后者的能力将不如前者。

      这种现象存在于现有的数据集中。例如,根据另一项研究,75%广泛使用的人脸识别数据集是男性,80%是白人。

      轻蔑的回答表明,黑暗种族数据集很难获得,因此情况会更糟;此外,当使用RGB相机进行人脸识别时,很难找到深色皮肤的人的面部特征,尤其是在昏暗的光线下,这也是原因之一。

      来源纽约时报

      正因为如此,今年6月初,IBM致信美国国会议员,宣布该公司将退出一般的面部识别业务,并表示反对将这项技术用于大规模监控和种族貌相。

      在本月早些时候的听证会上,波士顿警察局长威廉·格罗斯说,目前的技术是不可靠的,该部门没有使用它。

      他说,我对这项技术不感兴趣,直到它达到100%。我没有忘记我是非裔美国人,我会弄错的。他补充道。

      然而,波士顿法规不会影响私人公司或联邦机构(如联邦调查局)对这项技术的使用。

      除了波士顿和旧金山,马萨诸塞州的另外五个社区——萨默维尔、布鲁克林、北安普顿、斯普林菲尔德和剑桥——也有这项禁令。美国公民自由联盟的马萨诸塞州分部已经在这些地方推广了禁令,并正在游说州立法者采取行动。

      没有全州范围的禁令,但是一项暂停使用面部识别系统的法案目前正等待马萨诸塞州联合司法委员会的批准。

      本文由 在线网速测试 整理编辑,转载请注明出处,原文链接:http://www.wangsu123.cn/news/8279.html

          热门文章

          文章分类