自 2014 年以来，美国亚马逊公司的机器学习团队一直在秘密研发和使用一款计算机程序，用于审查求职者的简历，希望能将寻找顶尖人才的工作智能化。但在专家发现新招聘引擎不喜欢女性后，亚马逊最终在去年年初解散了该研究团队。经过培训，亚马逊的计算机模型学习了过去 10 年内提交给公司的简历，找出了其固有模式，并据此来审查申请人。但从 2015 年开始，亚马逊意识到在评定软件开发和其他技术职位的申请人时，该招聘系统并非性别中立。因为大多数申请者都是男性，这反映了整个科技行业男性主导地位的现实。

研究团队创建了 500 个专注于特定工作职能和职位的计算机模型。他们教会每个模型识别过去候选人简历中出现的约 5 万个术语。这些算法对 IT 应用程序中常见的技能几乎没有重要意义，例如编写各种计算机代码的能力等。相反，这项技术有利于那些用男性工程师简历中诸如 " 执行 "" 捕获 " 等常见动词来描述自己的候选人。

事实上，亚马逊的系统通过自学得出了男性候选人更可取的结论。系统对包含 " 女性 " 这个词的简历进行了处罚，如 " 女子国际象棋俱乐部队长 " 等。系统还降低了两所全女子大学毕业生的评级。亚马逊曾尝试对程序进行更新，力图使其对特定术语保持中立。但这并不能保证机器不会根据其他方式来对可能具有歧视性的候选人进行分类，性别偏见也不是唯一的问题。支持模型判断的数据也有问题，这意味着不合格的候选人经常被推荐到各种工作岗位。亚马逊最终在去年年初解散了该团队，因为高管们对这个项目已失去信心。 

原文转自丨科技日报
图片来自丨科技日报
网站编辑丨李雅颂