【小哈划重点：计算机模型经过训练，通过观察10年期间提交给公司的简历的模式来审核应聘者，在这10年期间，大部分简历都来自男性。结果，该工具学会了惩罚包含 "女性 "一词的简历。上过所有女子大学的女性被置于不利地位。工程师们试图解决这个问题，但没有成功。亚马逊的工具存在偏见，因为它是用绝大多数男性样本库的简历进行训练的。】
几周前，我刚刚完成了在亚马逊仓库工作的申请。我看了一个视频，并完成了一个测验，显示我知道要如何存放物品——重的放在下面，轻的放在上面。大约20分钟后，亚马逊给我发来邮件，说我在我想要的班次找到了工作。邮件中说，到巴尔的摩的仓库招聘办公室来给我的身份证拍照，并准备好我的社保号和护照等官方文件，以便扫描。
我当时很矛盾。这是我经历过的最简单、最精简的招聘过程，我很高兴得到这份工作，而不是没有工作。同时，我在没有和一个真人说话的情况下，在世界最大的公司之一找到了工作。
几天后，我通过了药检，并在背景调查中勾选了一些框，两个多星期后，我就被安排到亚马逊上班了。申请到亚马逊工作是如此简单，但这让我第一次认真对待自动化接管世界的概念。
尽管我得到了这份工作，而且很快就得到了，但我对自动化的应聘过程百感交集。这么快就得到了一份工作，而且不和一个人说话，这让人很不放心。难道他们真的不关心我申请中的任何人文方面吗？他们关心我的素质和实际工作能力吗？而他们能通过与我见面了解到这些吗？
完成迎新过程需要一个小时的在线培训视频，内容包括从正确的着装到安全和一些测验。在我写这篇文章的时候，我刚刚完成了我的第一个40小时的工作，我很喜欢我作为一个仓库拣货员的工作，我把订单从货架上拉下来，然后把它们放在外面送货。到目前为止，最大的教训是，如果你从亚马逊或任何其他在线零售商那里购买衣服，请在穿之前清洗它们，因为很多人在拿到你的衣服之前必须接触这些衣服。
像亚马逊为其小时工仓库工人所做的那样，自动化招聘流程可以节省很多时间，特别是对于大公司来说（截至4月30日，亚马逊员工人数突破93.5万人）。有人认为，自动化招聘流程还能消除偏见。弗里达-波利（Frida Polli）在《哈佛商业评论》（Harvard Business Review）上撰文称，如果没有自动化，很多应聘者甚至从未见过，但A.I.可以评估整个应聘者的管道。此外，它还可以通过适当的审核消除人类无意识的偏见。
然而，根据康奈尔大学教授Manish Raghavan和布鲁金斯研究所的Solon Barocas的说法，将招聘过程自动化作为一种反偏见的干预措施，有时会加剧偏见。在社会科学研究网（SSRN）中，法学教授Ifeoma Ajunwa指出，在自动招聘过程中，可能要求准员工使用的工具可能比填写申请书并交给招聘经理更有限制性，特别是对于低工资和小时工的工作。
事实上，亚马逊已经在其自动招聘工具中发现了偏见。2018年，该公司的机器学习专家发现，他们的招聘引擎偏爱男性。计算机模型经过训练，通过观察10年期间提交给公司的简历的模式来审核应聘者，在这10年期间，大部分简历都来自男性。结果，该工具学会了惩罚包含 "女性 "一词的简历。上过所有女子大学的女性被置于不利地位。工程师们试图解决这个问题，但没有成功。
亚马逊的工具存在偏见，因为它是用绝大多数男性样本库的简历进行训练的。
Ajunwa还指出，在线招聘算法对申请白领工作的人来说可能是限制性的。例如，高盛在2016年接受了自动面试的概念，作为雇佣更多样化员工的举措。但在2019年《纽约时报》的一篇评论文章中，Ajunwa认为，过多的自动化会形成一个没有问责制或透明度的闭环系统。
她举了两个自动招聘歧视的例子。
其中，2017年由时任伊利诺伊州总检察长Lisa Madigan提起的诉讼，发现自动招聘平台通过工具本身歧视年长的申请人。一个人上大学的年限的下拉菜单并没有回溯到足以容纳所有的工人，尽管人们在工作岗位上停留的时间更长。
在2016年针对Facebook的集体诉讼中，Facebook最终迫于压力遏制了其付费广告平台，以遵守反歧视法。Lookalike Audiences功能允许雇主只选择 "长得像 "其现有员工的Facebook用户看到招聘广告。因此，如果一家公司只有白人员工，那么只有白人Facebook用户才能看到广告；如果公司只有女性员工，Facebook就会有选择地针对女性用户。
眼下，Covid-19已经大大加快了A.I.在招聘过程中的使用，更多的招聘者将工作面试和其他招聘互动搬到了网上的例子。为了遏制大流行期间的面对面互动，更多的公司正在依靠A.I.和Zoom等视频会议平台。
但我们仍然需要人类来确保招聘过程的公平和公正。
我只能认为，在自动化的A.I.招聘平台看来，我很不错。我是一个年轻的23岁男子，拥有学士学位，没有犯罪记录，也没有残疾。一个自动化的招聘流程有利于我在不到20分钟的时间里在亚马逊获得一份工作。我的招聘体验非常好，速度也很快，在填写申请后很快就能到仓库工作。但是，我们如何确保其他人都有平等的机会呢？
（本文在来源处已有删减）
