亚投在线-微软停用多项面部分析识别服务,美国已经有几家企业这么做?

近日,微软宣布将停用旨在推断情绪状态和身份属性(例如性别、年龄、笑容、面部毛发、头发和妆容)的面部分析功能,且不再出售多项基于面部识别技术的服务并限制其使用。

南都·AI前哨站梳理发现,此前IBM已完全退出面部识别市场,Facebook也宣布关闭有十年历史的面部识别系统,删除超10亿用户的面部扫描数据。与此同时,不少大型企业都因面部识别功能在欧美面临大量诉讼。

微软将停用大部分面部分析、识别服务

微软关于停用和限制旗下产品和服务的决定,是依据近日发布的最新版《负责任的人工智能标准》(下称《标准》)而做出的。

经过长达两年的自我审查,微软在2019年第一版的基础上更新了《标准》。新的《标准》由六项基本原则组成,分别是责任原则、透明原则、公平原则、可靠性和安全原则、隐私和安全原则以及包容原则。

微软首席负责人的人工智能官Natasha Crampton指出,《标准》详细说明了开发人工智能(AI)系统的团队必须努力实现的具体目标或成果,而每个目标都由一组要求组成,并与可用工具和实践相映射。“它超越了迄今为止主导人工智能领域的高级原则。”

微软AI标准核心

为了使微软的AI产品符合这一新标准,微软Azure AI部门首席团队产品经理Sarah Bird表示,微软更新了面部识别的相关内容,包括新增限制访问政策、停用针对敏感属性的人工智能分类功能,以及加强在公平性和透明度方面的投资。

具体来说,从6月21日开始,新用户需要先申请访问权限,才能在Face API等工具中使用面部识别,老用户则有一年的时间去申请并获得批准,而且必须证明他们符合微软的AI伦理标准,并且这些功能能为用户和社会带来益处。

此外,微软还停用了旨在推断情绪状态和身份属性(例如性别、年龄、笑容、面部毛发、头发和妆容)的面部分析功能——新用户将无法使用该功能,老用户可以使用到明年6月30日。

面部识别表情

Bird指出,情绪分类功能被发现“对‘情绪’的定义缺乏共识”“无法归纳不同案例、不同区域下面部表情和情绪状态之间的联系”。而这些用于推断敏感属性的服务极易被滥用——包括使人遭受刻板印象、歧视,或不公平的对待。

事实上,微软不是第一个决定停用这一服务的巨头。谷歌云去年也展开了一次类似的评估,最终决定从其用于检测情绪的工具中屏蔽了13种计划推出的情绪,对4种现有情绪进行审查。

值得注意的是,微软仍然保留了部分功能以供特殊情况下使用。比如面部检测功能(包括检测模糊、曝光、眼镜、头部姿势、地标、噪声、遮挡和面部边界框)仍将保持可用,不需要额外申请。Seeing AI也依然可以使用能够推断敏感属性的服务,为视觉障碍人士提供帮助。

此前IBM已完全退出面部识别市场,脸书删除十亿数据

南都·AI前哨站梳理发现,无论企业宣称自己的面部识别技术多么高超,用于识别和分析人脸的产品和服务一直饱受争议。

根据微软官网,Uber使用微软的面部识别技术来做司机的身份认证。去年10月,英国网约车司机工会对此提起诉讼,理由是面部识别系统存在种族歧视,导致一些黑人司机因为误识别被解雇。

目前已有多个研究表明,面部识别系统识别有色人种的准确率比白人低。

美国国家标准与技术研究院 (NIST) 的研究显示,在 NIST 的数据库中归类为非裔美国人或亚洲人的面部被错误识别的可能性是归类为白人的10-100倍。《自然》2020年的一篇论文也指出,微软、苹果、谷歌、IBM的面部识别系统都无法很好地识别黑人——即使是表现最好的微软,也对黑人有高达27%的错误识别率,远高于白人的15%。

事实上,企业对于面部识别数据和技术的谨慎态度早就有迹可循。

2020年,IBM首席执行官阿里德·克里希纳在致美国国会的一封信中宣布,IBM将不再提供通用的面部识别或分析软件。另据外媒报道,IBM也不会再继续开发或者研究相关技术。

去年11月,Facebook宣布将关闭其已有十年历史的面部识别系统,删除超过10亿用户的面部扫描数据。在关闭面部识别功能后,Facebook将不再能自动识别用户上传的照片和视频里的人。

南都·AI前哨站观察到,不少企业都因面部识别功能面临大量诉讼,美国和欧盟的立法部门也在积极推动针对面部识别技术的立法。因此,企业的决定与日渐收紧的生物识别数据监管不无关系。

2015年,美国伊利诺伊州的多名用户因Meta未经用户同意存储生物识别数据提起集体诉讼,历经近7年,Meta最终同意以6.5亿美元和解。今年4月,谷歌也就一起类似的集体诉讼达成和解协议,和解金额为一亿美元。

以面部识别与检索知名的面部识别初创公司Clearview AI面临的罚款和诉讼也不少。英国、意大利都对其罚过款,法国和加拿大也曾做出制裁,美国伊利诺伊州、佛吉尼亚州均对其提起过诉讼。今年5月,Clearview AI接受了伊利诺伊州法院发起的和解协议,将不再向大部分私企和个人等提供人脸数据库服务。

采写:实习生韩艳燕 南都记者蒋琳

Posted in 互动百科