面部识别软件中发现的种族偏见

金福彩票-一些执法机构使用亚马逊的面部技术软件显示出不准确性,特别是涉及到有色女性时。有时这项技术会使深色皮肤的女性成为男性。
在识别男人时,该系统运作良好。它正在确定女性成为该软件的一个明显问题。
麻省理工学院的一份报告称亚马逊的Rekognition在19%的时间里错误地将女性视为男性,并且在研究的31%中,肤色较深的女性更常被视为男性。
为了挽回面子,亚马逊网络服务人工智能总经理Matt Wood表示,测试结果是基于面部分析,而不是识别。伍德说,最新的测试结果除了戴眼镜,小胡子或另一种性别等外在因素外,还指定了一般性的贡品。
“根据使用面部分析获得的结果,不可能对任何用例(包括执法)的面部识别准确性得出结论,”伍德说,他补充说,该研究没有使用亚马逊最新版本的Rekognition,以及说它没有发现误报。“论文中的结果也没有使用最新版本的Rekognition,也没有代表客户今天如何使用该服务。”
这不是唯一一个不准确地通过科技巨头的面部识别软件。去年麻省理工学院和多伦多大学的一对研究人员发现,类似的面部识别软件试图遇到障碍。微软和IBM最终需要在一致的错误率之后更新他们的软件。
麻省理工学院的Joy Buolamwini表示亚马逊必须在推出主流之前解决其缺陷。
“根据这项研究,公司继续向执法部门或政府机构出售这项技术是不负责任的,”Buolamwini在博客中写道。
Buolamwini写道:“如果你出售一种被证明对人脸有偏见的系统,那么你的其他基于面部的产品也完全没有偏见是值得怀疑的。”
由于亚马逊计划将该软件推销给执法机构,亚马逊员工和民权组织都直言不讳,称该软件有朝一日能够进行大规模监控。
亚马逊发表声明说:“这项技术正在以对社会有实质利益的方式实施,而且我们没有收到任何滥用的迹象。”金福彩票

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:http://www.kexuedaguanyuan.cn//a/jfcpzc/449.html