一个人工智能招聘系统已经成为美国一些最著名雇主的强大看门人，重塑了公司评估员工的方式，以及潜在员工证明自己价值的方式。
该系统由招聘技术公司HireVue设计，利用求职者的电脑或手机摄像头分析他们的面部动作、用词和说话声音，然后根据自动生成的“就业能力”得分将他们与其他求职者进行排名。
HireVue的“人工智能驱动的评估”在包括酒店和金融在内的一些行业已经变得如此普遍，以至于大学特别努力训练学生如何看起来和说话，以获得最佳成绩。目前，包括希尔顿酒店和联合利华在内的100多家雇主都在使用该系统，并对100多万名求职者进行了分析。
但一些人工智能研究人员认为，该系统是数字蛇油——一种毫无根据的肤浅测量和任意数字运算的混合体，并不基于科学事实。他们认为，像这样分析一个人，最终可能会对非母语人士、明显紧张的受访者或任何不符合外貌和语言模式的人不利。
他们认为，该系统将在帮助决定一个人的职业生涯方面发挥关键作用。但他们怀疑该公司甚至不知道自己在寻找什么:完美员工的长相和声音到底应该是什么样的?
纽约研究中心AI Now Institute的联合创始人梅雷迪思·惠特克(Meredith Whittaker)说，“这是一个非常令人不安的发展，我们有一项专利技术，声称可以根据面部动作、语调和行为习惯来区分高效的员工和不健康的员工。”
“这是伪科学。这是一种歧视的许可，”她补充道。“而那些生活和机会实际上正在被这些系统塑造的人没有任何机会参与进来。”
最新消息:知名权利组织对人工智能招聘公司HireVue提起联邦诉讼，称其存在“不公平和欺骗性”行为
HireVue的首席技术官洛伦•拉森(Loren Larsen)表示，这种批评是无知的，“大多数人工智能研究人员对员工思维和行为背后的心理理解有限”。
拉森将算法提高招聘结果的能力与医学改善健康状况的能力进行了比较，并表示科学支持他的观点。他认为，这个系统仍然比人类招聘人员使用的有缺陷的衡量标准更客观，他称之为“终极黑箱”。
他在接受《华盛顿邮报》采访时表示:“人们总是会因为他们的长相、鞋子、衬衫的塞进方式以及他们有多‘性感’而被拒绝。”“算法以一种前所未有的方式消除了大部分问题。”
他说，人工智能不会解释它的决定，也不会给候选人评估分数，他说这“无关紧要”。但他说，假设有些人可能会被自动裁判不公平地淘汰，这是“不合逻辑的”。
“当1000人申请一份工作时，”他说，“999人会被拒绝，不管公司是否使用人工智能。”
周三，知名维权组织电子隐私信息中心(Electronic Privacy Information Center)提交了一份正式申诉，敦促联邦贸易委员会(Federal Trade Commission)调查HireVue的“不公平和欺骗性”行为。EPIC官员写道，该系统的“有偏见的、无法证明的、不可复制的”结果对美国工人的隐私和生计构成了重大威胁。
听听邮报报道:记者德鲁·哈维尔和卡洛琳·y·约翰逊讲述了人工智能的崛起以及随之而来的偏见风险
这些高深莫测的算法迫使求职者面对一种新的面试焦虑。康涅狄格大学(University of Connecticut)数学和经济学专业的大四学生尼科莱特·瓦尔图利(Nicolette Vartuli)平均绩点为3.5，她说她研究了HireVue，并尽最大努力让求职面试机器眼花缭乱。她在规定的时间内自信地回答了问题。她使用了积极的关键词。她经常微笑，笑容灿烂。
但当她没有得到那份投资银行的工作时，她看不出电脑对她的评分如何，也不知道她如何才能提高，她为自己错过的东西感到痛苦。难道她看起来不够友好吗?她说话太大声了吗?人工智能招聘系统认为她弄错了什么?
“我觉得这可能是我没听懂的原因之一:我说话有点太自然了，”瓦尔图利说。“也许我用的词不够大，不够花哨。有一次我用了‘企业集团’这个词。”
HireVue公司表示，他们的系统会分析候选人反应的最细微细节——他们的面部表情、眼神交流和“热情”——并编制报告，公司可以根据这些报告来决定雇佣谁或拒绝聘用谁。
求职者不会被告知他们的分数或他们犯了什么小错误，他们也不能问机器他们在哪些方面可以做得更好。除了HireVue评分之外，人力资源经理还可以使用其他因素来决定哪些候选人通过了第一轮测试。
HireVue表示，该系统具有超人的准确性和公正性，能够瞄准理想的员工，捕捉到招聘人员可能错过的蛛网膜下的信息。
有大量大量入门级职位空缺的大雇主越来越多地求助于这种自动化系统来帮助寻找候选人、评估résumés并简化招聘流程。例如，硅谷初创企业AllyO就在宣传一款“招聘自动化机器人”，它可以给求职者发短信:“你愿意调动吗?”HireVue的竞争对手“数字招聘人员”VCV提供了一个类似的系统，用于电话面试，在电话面试中，候选人的声音和答案由一台“自动筛选”机器分析。
但HireVue的前景已经巩固了它在半自动企业招聘这个美丽新世界中的领先地位。该公司表示，它可以为雇主节省一大笔面对面面试的费用，并迅速淘汰那些不合格的求职者。HireVue说，它还允许公司从扩大的招聘人才库中看到候选人:任何有电话和互联网连接的人都可以申请。
HireVue首席产业组织心理学家内森·蒙德拉龙(Nathan Mondragon)告诉《华盛顿邮报》，标准的30分钟HireVue评估包括6个问题，但最多可以产生50万个数据点，所有这些数据点都会成为计算得分的组成部分。
雇主决定书面问题，HireVue的系统会在记录和分析求职者的回答的同时显示这些问题。人工智能通过评估一个人的面部移动方式来确定，例如，一个人对某项工作任务的兴奋程度，或者他们在愤怒的客户面前会有什么表现。蒙德拉贡说，这些“面部动作单元”可以占一个人得分的29%;他们说的话和他们声音的“音频特征”，就像他们的语调一样，构成了剩下的部分。
招聘:“完美保姆”。“必须通过AI扫描来获得尊重和态度。
“人类天生矛盾。他们在评估中注入了主观性。”蒙德拉贡说。“但人工智能可以毫无偏见地将人类在面试中处理的内容编入数据库。人类现在相信机器的决定，而不是人类的反馈。”
拉森说，为了训练系统了解要寻找什么，并为特定的工作量身定制测试，雇主目前从事同一份工作的工人——“从高到低的整个范围”——都要参加人工智能评估。
拉森说，他们的回答会与这些员工过去工作表现的“成功基准”相匹配，比如他们完成销售指标的情况，以及他们解决客户电话的速度。换句话说，最好的候选人看起来和听起来就像潜在员工申请之前就已经很出色的员工。
在新候选人参加HireVue测试后，系统会生成一份关于他们“能力和行为”的成绩单，包括他们的“学习意愿”、“责任心和责任感”以及“个人稳定性”，后者是由他们应对“易怒的客户或同事”的能力来定义的。
然后，这些电脑估计的性格特征被用来根据候选人的“成功可能性”将他们分为高、中、低三类。雇主仍然可以招聘排名垫底的候选人，但接受《华盛顿邮报》采访的几位雇主表示，他们主要关注的是计算机系统最喜欢的人。
老板知道你是否要辞职的新方法
HireVue只提供了对其面试算法的最有限的了解，这既是为了保护其商业机密，也是因为该公司并不总是知道系统如何决定谁会被列为“未来的优秀员工”。
在定义哪些词语或行为能带来最佳效果时，该公司只给出了模糊的解释。该公司表示，对于呼叫中心的工作，“支持性”的话可能会被鼓励，而“攻击性”的话可能会被扣分。
HireVue表示，其专家顾问委员会定期审查其算法方法，但该公司拒绝让该系统接受独立审计。拉森说，该公司“目前正在探索使用独立审计机构，看看这是如何运作的。”
HireVue于2014年推出了人工智能评估服务，作为其视频面试软件的附加组件，全球有700多家公司使用该软件进行了近1200万次面试。这家总部位于犹他州的公司不愿透露其收入、雇主成本或完整的客户名单。
该公司上个月表示，私募股权巨头凯雷集团(Carlyle Group)将成为其新的大股东，将从一只185亿美元的基金中提供一笔未披露的金额。该投资公司在内部使用HireVue的视频面试，并表示“将随着时间的推移部署人工智能驱动的候选人评估”，该公司董事总经理帕特里克·麦克卡特表示，这笔资金将帮助该公司在美国和世界各地扩展到更多的雇主和更专业的职位空缺。
在酒店巨头希尔顿国际(Hilton International)，数千名预订预订、收益管理和呼叫中心职位的求职者都通过了HireVue的人工智能系统，高管们认为，自动化面试将他们的平均招聘时间从六周缩短到五天。
该公司负责全球招聘的副总裁莎拉·斯玛特(Sarah Smart)说，这个系统从根本上改变了希尔顿的招聘惯例，使公司能够以闪电般的速度筛选应聘者。被应征者淹没的招聘经理现在只需要看看系统排名高的人，然后过滤掉剩下的人:“招聘人员很少需要超出这个范围，”她说。
在消费品集团联合利华(Unilever)， HireVue被认为帮助节省了10万小时的面试时间，每年节省了约100万美元的招聘成本。该公司的首席人力资源官莉娜·奈尔(Leena Nair)表示，该系统还有助于引导经理们不再只雇佣那些长相和行为都与他们相似的“小角色”，从而使公司的“多元化招聘”——她称之为“多元化招聘”——增加了约16%。
“我们越数字化，我们就越人性化，”她补充道。
戴恩·e·霍姆斯(Dane E. Holmes)是HireVue客户高盛(Goldman Sachs)的人力资本管理全球主管。今年春天，他在《哈佛商业评论》(Harvard Business Review)上写道，这家银行业巨头的大约5万份视频采访记录是“一个数据宝库，将帮助我们进行深刻的分析。”
这家投行表示，它使用的是HireVue的视频面试系统，而不是电脑生成的评估。但霍姆斯说，这些视频中的数据可以帮助公司弄清楚求职者的技能和背景如何与他们的工作能力或他们会在公司呆多久相对应。他补充说，该公司还在“试验résumé-reading算法”，这将有助于决定新员工的部门和任务。
“我能想象这样一个未来吗?公司完全依靠机器和算法来对résumés和面试进行评级。也许对某些人来说是这样，”他写道。(他承诺，招聘中的“人的因素”将在高盛继续存在。)
你的怀孕应用程序会把你的私密数据分享给你的老板吗?
HireVue的扩张还帮助它赢得了一些较小组织的业务，比如芝加哥的非营利组织Re:work，该组织为当地失业的求职者提供科技行业职业培训。该组织负责人谢尔顿•班克斯(Shelton Banks)表示，事实证明，在评估哪些候选人值得付出努力方面，HireVue是一个不可替代的指南。
这家非营利组织曾经允许几乎所有人参加其为期八周的高强度培训项目，但许多人很早就筋疲力尽了。现在，每位候选人都要先通过人工智能评估，根据解决问题和谈判技巧对他们进行排名，并帮助团队确定谁最有动力、好奇心和勇气。
班克斯说:“当涉及到这个人的生活时，知道这个人在起点上的位置，可以帮助我们对我们说“是”或“不是”的人做出更准确的评估。”
但研究情绪的神经科学家丽莎·费尔德曼·巴雷特(Lisa Feldman Barrett)表示，她“强烈怀疑”该系统是否真的能理解它所看到的东西。她最近领导了一个由四名资深科学家组成的团队，其中包括一名“计算机视觉”系统专家，评估了1000多篇已发表的研究论文，研究人脸是否显示出普遍的情感表达，以及算法能在多大程度上理解它们。
他们发现，这些系统在识别面部动作方面已经变得相当敏锐，比如识别微笑和皱眉之间的差异。但令人担忧的是，他们在理解这些动作的实际含义方面仍然不够精确，而且对于人们如何表现情感或个性的巨大文化和社会差异，他们也没有做好充分准备。
看看皱眉，巴雷特说:电脑可能会看到一个人的皱眉和皱起的眉头，并认为他们很容易生气——这对想找销售助理工作的人来说是一个危险信号。但她说，人们总是皱眉，“当他们不生气的时候:当他们非常努力地集中注意力的时候，当他们困惑的时候，当他们放屁的时候。”
微软蒙特利尔研究实验室研究情感和人工智能的研究员卢克·斯塔克(Luke Stark)以个人身份而不是微软员工的身份说话，他同样对HireVue通过语调和措辞来预测员工性格的能力表示怀疑。
当算法将你标记为精神疾病时会发生什么?
他说，像HireVue这样的系统已经非常擅长于吐出看起来有说服力的数据点，即使这些数据没有科学依据。他发现这种“数字的魅力”确实令人不安，因为雇主在试图决定申请人的职业道路时，可能会让他们过于自信。
他说，当今最好的人工智能系统很容易误解意义和意图。但他担心，即使他们在推测一个人的真实价值方面取得了公认的成功，也可能有助于延续“同质化”的机器人企业单一文化，每个新员工都模仿上一个。
HireVue的拉森表示，该公司使用“世界级的偏见测试”技术，对其业绩数据进行审计，以寻找潜在的歧视性招聘做法，即负面影响。他补充说，该公司的算法经过了“使用最深入、最多样化的面部动作单元数据集进行训练，其中包括来自许多国家和文化的人”。
然而，HireVue的增长遇到了一些监管障碍。今年8月，伊利诺伊州州长J.B.普里茨克(民主党)签署了一项全国首个法律，将迫使雇主告诉求职者他们的人工智能招聘系统是如何工作的，并在让他们通过测试之前获得他们的同意。HireVue表示支持这项措施，该措施将于明年1月1日生效。
该法案的共同提案人、民主党州众议员小杰米·安德拉德(Jaime Andrade Jr.)表示，在了解到有多少求职者在面试的人工智能阶段被拒绝后，他推动了这项透明度法。他担心，口音或文化差异最终可能会不当地扭曲结果，而拒绝参加评估的人可能会受到不公平的惩罚，被排除在这份工作的考虑范围之外。
“什么是模范员工?”是白人吗?白人女性?一个经常微笑的人?他说。“使用的数据点是什么?”必须要有解释，必须要有同意。”
随着夏令营启用面部识别功能，家长们要求:请多微笑
HireVue提醒求职者，没有办法欺骗、欺骗或黑进这个系统，因为它会评估数万个因素，以评估“一套独特的个人能力”。该公司在一份在线指南中说:“做你觉得最自然的事。”
但大约有12名参加过人工智能测试的受访者(包括一些得到这份工作的人)告诉《华盛顿邮报》，在被认为值得公司花时间之前，就必须让电脑惊艳，这让人感觉疏远和不人道。
他们质疑之后该如何处理这段视频，并表示他们对必须满足无法解释的人工智能要求感到不安。一些人表示，他们直接拒绝接受面试，用一位求职者的话来说，是因为这个想法“让我起鸡皮疙瘩”。
考生们说，他们绞尽脑汁，想知道如何在算法面前最大限度地提高自己的价值，他们求助于数百个视频和在线手册，比如，这些视频和手册建议他们坐在一堵干净的白墙前，以免凌乱的背景影响他们的成绩。“在你的网络摄像头上粘几个大眼睛。这样更容易保持眼神交流，”Reddit留言板上的一位用户建议道。
人工智能研究人员斯塔克表示，这些“民间算法理论”是人们面对拥有决定自己命运的不可破解的人工智能系统时的自然反应。他说，即使这些生存技巧是错误的，它们也能让人感到安心:选择正确的词语，使用正确的语气，摆出一副足够快乐的脸。“这是一种试图让人们在面对一个他们不理解的不透明系统时，产生某种代理感的方式，”他说。
但HireVue的一些受访者质疑，仅仅看半小时的网络摄像头就判断一个人的工作表现或个人能力是否公平甚至明智。他们还担心，人们对考试古怪性质的紧张可能最终会彻底取消他们的资格。
俄勒冈州成为亚马逊面部识别警务的试验场。但如果Rekognition弄错了呢?
杜克大学(Duke University)经济学教授艾玛·拉西尔(Emma Rasiel)经常为在华尔街求职的学生提供建议。她说，她发现越来越多的学生对即将到来的HireVue考试感到极度不安。该大学的经济系现在在其学生资源网站上提供了HireVue面试指南，包括典型问题(“正直对你意味着什么?”)和行为技巧(“表现自然，慢慢说话!”)。
拉西尔说:“这是一种全新的、未经尝试的沟通方式，增加了他们的焦虑。”“我们有了焦虑的一代，现在我们要求他们对着电脑屏幕说话，对着摄像机回答问题……没有真正的指导方针来告诉他们如何让自己看起来更好或更差。”
这些神秘的要求也会让人们过度焦虑。皇后区25岁的谢赫·艾哈迈德(Sheikh Ahmed)申请纽约多家银行的柜员职位时，他说自己收到了八份HireVue的评估邀请，都安排在同一天。
他研究了如何说话和表演的指南，但发现最难的部分是确定镜头的角度:他担心太高，会看起来很霸道;太低的话，他就会显得萎缩和虚弱。
在他马拉松式的AI面试之前，他穿上一件整洁的正装衬衫，系上领带和睡裤，去了他父亲的隔音音乐工作室，远离了家里叽叽喳喳的社会雀。他还关掉了空调系统，希望背景噪音不会影响他的成绩。
他在每次采访中都稍微改变一下答案，希望算法能找到它喜欢的东西。但他发现，把自己的人生经历和价值浓缩成一段适合电脑使用的语音片段，让他感到疲惫和沮丧。
到最后，他口干舌燥，浑身都是汗，他偏执地认为自己在担心那只鸟的时候没有足够的眼神交流。他说，面试几周后，他还在等待是否找到工作的消息。
更正:由于来自高盛的不正确信息，《华盛顿邮报》在这篇文章的早期版本中错误报道了这家投资银行使用HireVue的人工智能驱动的评估程序。高盛的代表说，他们不会只使用HireVue的视频面试系统，不使用它的自动评估。
