用面部表情表达情绪是每个人几乎与生俱来的能力,人们也习惯了面部表情去猜测其他人情绪,但在科技已经飞速发展的现在,AI(人工智能)也会识别人的面部状况和表情。
▲图片来自:ResearchGate
不久前,一直着力开发面部识别技术的微软发布了一则指南,主题是「负责任地构建人工智能系统的框架」。公开了分享微软负责任的人工智能标准,这也是指导微软如何构建人工智能系统的框架。
▲图片来自:Microsoft
文中提到,微软决定停用面部识别功能—— Azure 人脸服务,因为这些功能可用于尝试推断情绪状态和内部身份属性,如果滥用,可能会使人们受到刻板印象、歧视或不公平的拒绝服务。
目前,人脸服务仅适用于 Microsoft 托管客户和合作伙伴,现有客户将有一年的时间进行过渡,但必须在 2023 年 6 月 21 日之前停止使用这些功能;新用户可使用人脸识别申请表申请访问权限。
▲图片来自:Microsoft
其实,微软也并不是完全禁用这一功能,而是将这项技术整合到「受控」的可访问性工具中,比如为有视力障碍的人提供的「Seeing AI」。它能为视障人士描述物体和文本,阅读标志、解读某人的面部表情以及提供导航等,目前支持英语、荷兰语、法语、德语、日语和西班牙语。
▲图片来自:Microsoft
微软公布的这则指南,说明了这家科技公司的决策过程,包括关注包容性、隐私和透明度等原则,这也是该标准自 2019 年底推出以来的首次重大更新。
对面部识别功能进行如此大的改动,微软表示是因为自己认识到,要使 AI 系统值得信赖,它们需要适当地解决它们旨在解决的问题。
▲图片来自:Microsoft
作为将 Azure 人脸服务与负责任的 AI 标准要求保持一致的工作的一部分,微软还将停用推断情绪状态(快乐、悲伤、中性、愤怒等)和身份属性(例如性别、年龄、微笑、面部毛发、头发和化妆)的功能。
以情绪状态为例,微软决定不提供开放式 API 访问技术,这些技术可以扫描人们的面部并声称可以根据他们的面部表情或动作推断他们的情绪状态。
▲图片来自:Microsoft
微软的页面上显示可以通过人的 27 个面部标志进行识别,可以判断的面部属性也多种多样,比如给定的面部是否模糊、是否有配饰、估计性别和年龄、是否佩戴眼镜、头发的类型、是否有戴眼镜、是否有微笑的表情……
微软内外的专家都强调,在「情绪」的定义上缺乏科学共识,以及围绕这种能力的高度隐私问题。所以微软还决定,需要仔细分析所有旨在推断人们情绪状态的人工智能系统,无论系统使用面部分析还是任何其他人工智能技术。
▲图片来自:Microsoft
值得一提的是,微软并不是唯一一家对面部识别进行慎重审视的公司,IBM 的 CEO Arvind Krishna 也已致函美国国会,透露该公司已退出面部识别业务。两家公司做出这种决定的原因里,都离不开此前引起轰动的「弗洛伊德之死」事件。
▲ 图片来自:BBC
因为担心这一技术可能为执法机构提供监控工具,从而导致一些侵犯人权的事件发生,也担心公民的隐私被泄露,并且目前美国在这方面的立法并不十分完善。
于是,这些掌握着技术的公司决定从约束自身做起,让技术不被滥用,让公民的隐私和人权多一些保障。当一项技术的用途并没有完善的规范进行约束,从技术开发本身来约束或许是更好的选择。