谷歌搜索新的肤色测量来遏制产品偏见
(路透社) - 本周字母表谷歌告诉路透社,它正在开发一种替代行业标准方法来分类肤色的标准方法,这是一种越来越多的技术研究员和皮肤科医生的合唱,用于评估产品是否偏向颜色的人。
问题是一种称为Fitzpatrick皮肤类型(FST)的六色标度,自20世纪70年代以来已经使用了皮肤科医生。科技公司现在依靠它来分类人员并衡量面部识别系统或智能手术率传感器等产品是否跨肤色调同样好。
批评者表示FST,其中包括“白色”皮肤和一个为“黑色”和“棕色的一部分”,无视颜色人民的普遍性。美国国土安全部的研究人员在去年10月的联邦技术标准会议期间,推荐用于评估面部识别的FST,因为它是佩戴群体中的颜色范围。
为了回应路透社关于FST的问题,谷歌的第一次和同行前面表示,它一直悄悄地追求更好的措施。
“我们正在努力替代,更包容,可以在我们的产品开发中有用,并将与科学和医学专家合作,以及与彩色社区合作的团体合作,”拒绝提供细节关于努力。
争议是在技术产业中估计种族主义和普遍性的争议,其中劳动力比金融等界更为白。确保技术适用于所有肤色,由于不同的年龄和性别,假设常用于新产品,通常由人工智能(AI)提供动力,延伸到医疗保健和执法等敏感和受管制区域。
公司知道他们的产品可能有缺陷,用于研究和测试数据中所代表的群体。对FST的担忧是,其对较深的皮肤的有限量可能导致技术,例如,用于金色棕色皮肤,但浓缩咖啡浓咖啡失败。
许多类型的产品提供比FST更丰富的调色板。去年Crayola推出了24个皮肤色调蜡笔,而Matternc的Barbie Fashionastas Dolls今年覆盖九个色调。
这个问题远非谷歌学术。当该公司于2月份宣布,一些Android手机上的摄像机可以通过指尖测量脉冲率,而无论用户是否有光肤或暗皮肤,它表示读数的读数将误差1.8%。
该公司稍后提供了类似的保证,即皮肤类型不会影响过滤背景的功能的结果,也不会识别用于识别皮肤状况的即将到来的Web工具,非正式称为DERM辅助。
那些得出的结论源于与六色调FST进行测试。
'初始点'
已故哈佛大学皮肤科医生博士托马斯Fitzpatrick发明了规模,为牛皮癣进行了个性化紫外线辐射治疗,瘙痒的皮肤状况。他通过询问太阳在阳光下的某些时期开发的晒伤或棕褐色,将“白色”人的皮肤分组为罗马数字。
十年后来到了“棕色”皮肤和vi为“黑色”。规模仍然是测试Sunblock产品的美国法规的一部分,它仍然是评估患者癌症风险等的流行性皮肤病学标准。
一些皮肤科医生表示,规模是穷人和过度使用的照顾措施,并经常与种族和种族混淆。
“很多人都会假设我是皮肤类型v,这很少从未烧伤,但我燃烧,”宾夕法尼亚大学皮肤科医师苏珊·泰勒博士在2004年创立了彩色社会皮肤,促进了对边缘化社区的研究。“看着我的肌肤色调,说我是v对我is isservice。”
技术公司,直到最近,令人不安。Unicode是一个监督Emojis的行业协会,在2014年提到FST,因为它是采用黄色之外的五种皮肤色调的基础,称规模“没有负面协会”。
2018年研究标题为“性别色调”,发现面部分析系统更常见的皮肤较深的皮肤较深的人,使用FST来评估AI。该研究描述了FST作为“起点”,但后来讲述了类似研究的科学家,他们将使用规模保持一致。
“作为相对不成熟的市场的第一个措施,它为您提供帮助我们识别红旗的目的,”莫扎拉研究员互助地审计AI。
在4月的学习测试AI检测Deepfakes中,Facebook Inc研究人员写了FST“显然不包括棕色和黑色肤色中的普遍性。”尽管如此,它们仍然发布了3,000次辛勤化的视频,用于评估AI系统,基于八个人类评估者的评估附加FST标签。
评估者的判决是中央。面部识别软件启动AnyVision去年将名人举例说明为评估者:前棒球巨人德里克Jeter作为IV型,模型TYRA银行A V和REPPER 50美分的VI。
AnyVision告诉路透社它同意谷歌的重新审视FST的决定,Facebook表示,它是更好的措施开放。
微软和SmartWatch制造商Apple和Garmin在工作相关的传感器时参考FST。
但是,使用FST可能会加以智能手表的心率读数,加州圣地亚哥大学智能手表的心率读数,这是由黑人生活社会平等运动的启发,在去年睡眠中写道。
Microsoft承认FST的不完美。Apple表示,它对肤色的人类测试了各种措施,仅在他们中间的FST。Garmin表示,由于宽程度的测试,它认为读数是可靠的。
Victor Casale成立了化妆公司暴徒美容和帮助牧师在新蜡笔上,他表示,他为基础开发了40种,每个人不同于下一个约3%,或者足以让大多数成年人区分。
颜色精度对电子产品建议科技标准应该有12到18个音调,他说,加入,“你不能只有六个。”