人脸识别技术禁令再来！美国又一城市禁止面部识别软件

【新智元导读】近来，美国又一城市通过了制止在公共场所运用面部辨认软件的法则，成为继旧金山之后全美第二个制止面部辨认技能的城市。美国会两党罕见地共同提案，拟立法暂停运用人脸辨认软件。在人脸辨认技能运用方面，美国好像走向了保守。

继旧金山之后，全美第二个制止面部辨认技能的城市出现了。

近来，马萨诸塞州的萨默维尔市议会通过了制止在公共场所运用面部辨认软件的投票。新方针生效后，该市各安排、分局或下属部分，均不得在公共场所运用面部辨认技能。

面部辨认技能在美国的推进困难重重。警方、政府部分等对运用面部辨认帮忙警务有需求，但受到侵犯隐私、人权；歧视少数族裔、歧视女人等的指责。对面部辨认的批评越来越多，除旧金山、萨默维尔市外，奥克兰、纽约等城市也在考虑类似禁令。

全票通过：继旧金山之后，全美第二个制止面部辨认城市

由于对潜在歧视和反乌托邦（dystopian）乱用的担忧，近来，美国马萨诸塞州的萨默维尔市（Somerville）议会投票制止当地警方和市政部分运用面部辨认软件。这使得位于波士顿附近并拥有81,000人口的萨默维尔成为美国第二个制止该技能的城市。该禁令是在5月份旧金山通过面部辨认禁令之后实施的。该法则部分由ACLU（美国公民自由联盟）编撰，ACLU也帮助制定了萨默维尔法则。

除了制止市政部分积极运用人工智能外，该法则还制止在刑事查询或法令诉讼中运用面部辨认软件体系产生的数据或依据。当地法令没有限制州或联邦执法部分运用面部辨认的范围。

可是，法令将面部辨认称为“等同于要求每个人随时携带和展现带有个人相片的身份证”，并引用了对女人、年轻人、移民和有色人种面部辨认过错匹配的担心。

该法则以11-0的投票获得通过 - 这并不令人惊讶，由于11名萨默维尔市议员中有9位拥护立法。

跟着面部辨认软件开端渗透到工作场所，iPhone等消费者设备运用面部辨认来验证购买，警方也采用了很大程度上不受管制的技能。跟着面部辨认现已发挥作用，政府刚刚开端考虑如安在社会中运用它。

Somerville城市职工John Long在一封电子邮件中表示，当地居民分享了98条书面谈论，加上ACLU的支撑信和来自贸易安排安全行业协会的对立信。该市收到的所有信件都支撑禁令。

“在运用纳税人资金之前，任何新的安全技能有必要证明是有用的，”萨默维尔居民Dmitry Erastov在一封信中说。

Logic杂志的创始编辑和哈佛大学职工Moira Weigel表示：“咱们知道，这些技能强制执行种族主义和cis-heterosexism，并为民主上不负责任的私人实体提供了大量敏感信息。旧金山是另一个拥有大量技能人员的城市，他们了解这些体系是怎么运作的，而且也投票制止它们，这并不是偶尔的。“

同样也是这几天，警用摄像机制造商 Axon承诺将不为其产品添加面部辨认软件。

许多人工智能专家或隐私倡导者向州和国家立法者提供有关面部辨认软件相关风险和机会的建议，有利于暂停或完全制止该技能。

波士顿地区在面部辨认方针辩论中扮演着相当突出的角色。马萨诸塞州立法安排现在正在考虑由波士顿地区立法者资助的法案“面部监视暂停法案”

麻省理工学院媒体实验室的Joy Boulamwini最近在美国众议院小组委员会作证，其领导的评估指出了微软、Face ++和亚马逊Rekognition等公司领先的面部辨认体系的严峻问题。

旧金山成美国第一个制止面部辨认监控的城市

在波士顿之前，今年5月，旧金山成为美国第一个制止面部辨认监控的城市。该措施以旧金山监管委员会的8-1投票通过，使旧金山成为美国第一个制止警察和其他政府安排运用面部辨认技能的城市。

近年来，由于强大但深度学习的普及，面部辨认得到了显着改善。在典型的体系中，分析面部特征，然后与数据库中的标记面部进行比较。

可是，人工智能研究人员和ACLU等民权安排特别关注面部辨认体系的准确性和成见。有人担心，它们在正确认识有色人种和女人方面并不那么有用。这个问题的一个原因是用于训练软件的数据集或许不成份额地是男性和白人。

现在还没有关于怎么运用人工智能技能或面部辨认体系的联邦法令，但一些州和地方政府现已做出了自己的努力：例如，伊利诺伊州有一项法令要求公司在收集生物辨认信息之前征得客户的同意。加利福尼亚州参议院现在正在考虑一项法案，该法案将制止该州的警察运用生物辨认技能（如面部辨认）和身体摄像机。

依据新的旧金山法令，任何想要运用监控技能或服务的城市部分有必要首先得到监事会（Board of Supervisors）的同意。该过程将包含提交有关技能及其运用方法的信息，并在公开听证会上提交。依据新规则，任何现已运用监控技能的城市部分都需要告诉董事会是怎么运用它的

该法则还规定，该市每年都需要向监事会陈述监管设备和服务是否按同意方法运用，还包含保存、同享或删除数据的详细信息。

不过，也有一些人对立该法则：“当负责任地运用时，它或许是一个很好的公共安全工具。”

美国会两党共同提案：立法暂停运用人脸辨认软件

上个月，美国国会两党在一场国会听证会上正式讨论了对执法部分运用面部辨认软件所带来的日益担忧。议员们听了几个小时的证词，内容涉及不受监管的面部辨认怎么盯梢抗议者，影响刑事司法体系，并加剧种族成见等。

国会两党共同提案，寻求立法对面部辨认进行监管

不同寻常的是，两党这次都体现出了协作的情绪，同意共同努力对面部辨认进行监管。

两党一致认为面部辨认软件有侵犯公民隐私权和抗议权的隐忧，寻求立法暂停此类工具的运用。包含面部辨认软件专家在内的团队认为，在更完善的监管出台或技能充沛老练之前，此类面部辨认工具应由国家叫停。

当前，FBI 和国土安全局等联邦安排在运用面部数据辨认潜在违法嫌疑人前是不需要获得搜查令的。现在还不清楚该委员会方案怎么起草法令来打击潜在的违法行为，但两党议员都对美国公民的面部扫描或许侵犯了宪法权利这点提出了担忧。

专家正告称，由于这项技能推出得太快而且存在严峻缺点，或许会导致查询人员对潜在嫌疑人进行误判。

美国并非仅有对面部辨认技能忧心忡忡的国家。近来，欧洲人工智能高等级专家组(HLEG)发布陈述，提议“欧洲应该制止AI进行大规模监视和社会信用评分”。陈述写道：“政府应承诺只布置和采购值得信赖的人工智能体系，其设计主旨是尊重法令和基本权利，符合道德原则，社会技能健全。”

肤色、性别歧视引争议，专家批评面部辨认技能被乱用

大约一年前，美国公民自由联盟（ACLU）初次公开了亚马逊的面部辨认软件已在运用的事实。从那时起，对该软件的审计发现其更有或许倾向白人，对黑人很有或许辨认不妥，特别是女人黑人。当 ACLU 将国会议员与违法数据库进行匹配时，亚马逊的 Rekognition 软件过错地将28名议员辨认为罪犯。被辨认为罪犯的 28 名议员中，40% 是有色人种，尽管国会议员中有色人种的份额仅为 20%。

去年，亚马逊的人脸辨认程序 Rekognition 曾将 28 名议员过错地辨认为罪犯，引发巨大争议。

没有监管的现状下，乱用面部辨认技能的或许性很高，特别是关于有色人种。MIT媒体实验室研究员和算法正义联盟（Algorithmic Justice League）创始人 Joy Buowamwini 发表研究表明，人脸辨认体系对肤色较浅的男性体现优于肤色较深的男性，而关于肤色较深的女人则体现最差。

她的研究成果遭到 AI 领军企业的批评，但有数十位著名的 AI 研究人员为其辩护。她在会上说：“至少，国会应该通过一项关于警察运用人脸辨认的禁令，由于人脸辨认的乱用、缺乏监督和技能的不老练会形成很大的风险，关于边缘化社区而言特别如此。”

美国走向保守：制止人脸辨认的城市在添加

自MIT的研究和 ACLU 的陈述以来，微柔和亚马逊都宣称现已缩小了准确性方面的种族差异。

可是，改进技能以更好地辨认黑色面孔只是过程的一部分：准确度很高的技能仍然或许被用来支撑有害的警务。

怎么运用这项技能很重要，这便是方针可以防止乱用的地方。微柔和亚马逊提出的解决方案是，在人脸辨认现已投入运用后，在对其进行种族和性别成见的审核——这或许为时已晚。

科技的开展历来便是一把双刃剑，任何一项技能的运用都常有利弊相随。美国在人脸辨认这样的技能运用方面好像走向了保守的道路，旧金山、波士顿郊区现已成为正式立法制止警方和市政部分运用人脸辨认软件的两个城市，奥克兰也在考虑类似的禁令。在纽约，人脸辨认被尝试用于在大桥上辨认车内司机面孔，结果是完全失败。

像人脸辨认这样的人工智能技能运用，到底应该鼓励还是制止，欢迎读者朋友留言讨论