聚合国内IT技术精华文章,分享IT技术精华,帮助IT从业人士成长

太无奈!微软停售 AI 情绪识别等技术,直言:“法律跟不上 AI 的发展”

2022-06-23 13:27 浏览: 83223 次 我要评论(0 条) 字号:

整理 | 郑丽媛
出品 | CSDN(ID:CSDNnews)

上周,谷歌 AI 被曝觉醒的传闻在业内引起巨大讨论,尽管各大 AI 专家事后均出面表示不可能,但一时之间还是吸引了无数人对于 AI 领域的关注。

这不,今天微软又带着 AI 登上国外科技网站的头条:为了更负责地构建 AI 系统,微软宣布将逐步停止其基于人脸图像识别情绪、性别和年龄等 AI 面部分析工具的公开使用。


“法律落后于 AI 的发展”


在微软昨日发布的官方博文中,微软首席 AI 责任官 Natasha Crampton 宣布了一份 27 页的微软 Responsible AI 标准:“AI 越来越成为我们生活的一部分,然而我们的法律却落后了,它们没赶上 AI 的独特风险或社会需求。因此我们意识到需要采取行动,努力在设计上对 AI 系统负责。”

据 Natasha Crampton 介绍,本次 Responsible AI 标准主要强调将“问责制”等原则分解为其关键推动因素,以确保是谁在使用其服务,并对这些工具的应用位置进行更大力度的人工监督。

基于这一目标,微软提出了两项保障措施:

  • 即日起,新客户需要申请使用人脸识别操作。

自 6 月 21 日起,所有新客户需申请使用 Azure Face API、Computer Vision 和 Video Indexer 中的人脸识别操作,而现有客户有一年的时间可根据他们其用例申请获取继续使用面部识别服务的批准。不过需要注意的是,如果截止 2023 年 6 月 30 日现有客户申请仍为获得批准,未来将不能再继续使用面部识别功能。

“通过引入有限访问权限,我们为面部识别的使用和部署增加了一层额外的审查,确保这些服务的使用符合微软的 Responsible AI 标准,有助于最终用户的高价值和社会效益。”

  • 停止用于推断情绪状态和身份属性的面部分析功能。

微软在博文中表示,面部检测功能(如检测是否模糊、曝光、有无戴眼镜、头部姿势等)未来可继续普遍可用,但一些用于推断情绪状态和身份属性的面部分析功能将被停用。

“我们与内外部的研究人员合作,了解这项技术的局限性和潜在优势,并进行权衡取舍。”微软指出,情绪感知不仅涉及隐私问题,也存在缺陷,部分预测敏感属性功能的 API 访问也潜藏了多种被滥用的可能。

为了降低风险,微软决定不再支持 Face API 中的通用系统(该系统用于推断情绪、性别、年龄、发型以及是否微笑和化妆等):从 2022 年 6 月 21 日开始,新客户将无法再检测这些属性,现有客户的使用权限也仅持续到 2023 年 6 月 30 日。

不过微软也补充道,虽然宣布将停止向公众继续提供这些功能,但它旗下的一个产品还将继续使用:Seeing AI,一个通过机器视觉为残障人士提供技术支持的软件。

除此之外,微软也对其自定义神经语音功能设置了类似限制和审核。本质上来说,这项功能可支持用户根据真人录音创建 AI 语音,但“很容易想象它将如何被用来冒充演讲者并欺骗听众”。


用 AI 识别情绪不靠谱?


实际上,早在微软做出这一决定之前,许多业内专家就一直在控诉这类 AI 技术,尤其是前几年微软、亚马逊、IBM 和谷歌等科技公司扎堆推出“情感识别算法”时。

具体来说,这类算法会根据对人脸的面部分析推断目标对象的感受,例如皱眉或噘嘴即代表生气,眼睛睁大或眉毛上扬即意味着害怕等等——听起来,这个逻辑是否有些牵强了?

因而,五位情感科学领域的杰出专家受美国心理科学委员会所托,耗时两年、审查了 1000 多项研究之后,终于在 2019 年得出结论:情绪可以通过许多方式来表达,不能仅凭一组简单的面部动作就推断出这个人的感受。

举个例子:根据当时公开的数据显示,人们在生气时皱眉的几率不到 30%,所以皱眉只是表达愤怒的方式之一。这也表示超过 70% 的人在生气时不会皱眉,反过来说即他们不生气时也会皱眉。

美国东北大学心理学教授 Lisa Feldman Barrett 对这一结果表示:“这意味着使用 AI 以这种方式评估人们情绪的公司会误导消费者。你会希望将其应用在法庭、招聘、医疗诊断或机场等各个场景中时,算法只有不到 30% 的准确率?”

尽管当时微软并未对此作出明确回应,但两年后的如今,Natasha Crampton 终于在博文中承认道:“公司内外的专家均强调,在‘情绪’的定义上缺乏科学共识,在如何跨用例、地区和人口统计数据进行推断方面存在挑战,围绕这类功能的隐私担忧也在加剧。因此我们决定分析所有声称可以推断人们情绪状态的 AI 系统。”

那么,你如何看待通过 AI 识别人脸情绪及各类身份属性这一操作?

参考链接:

  • https://www.theverge.com/2022/6/21/23177016/microsoft-retires-emotion-recognition-azure-ai-tool-api

  • https://blogs.microsoft.com/on-the-issues/2022/06/21/microsofts-framework-for-building-ai-systems-responsibly/

— 推荐阅读 —

新程序员001-004》已全面上市

欢迎扫描下方二维码或点击进入立即订阅

即可畅享电子书及精美纸质书。

B 站上线付费视频功能;特斯拉遭前员工集体诉讼:未提前告知即裁员;RISC-V 宣布新规格|极客头条
吴军亲述编程生涯:不用低效率的算法做事情
☞M2 芯片解析:似乎是一个增强版的 A15?

一键三连 「分享」「点赞」「在看」

成就一亿技术人



网友评论已有0条评论, 我也要评论

发表评论

*

* (保密)

Ctrl+Enter 快捷回复