公司用于招聘员工的招聘算法是否可以防止偏见或加剧这种偏见？[一世] 他们的结论尚不清楚。文章警告说，必须“主动构建和测试”该技术，以消除任何有意或无意的偏见。”[ii] 在本文中，我想说明为什么业务分析师（BA）是组织确保构建和测试AI技术以避免这种偏见的最佳选择。

但是首先要介绍一些背景，这些内容与组织在招聘过程的各个阶段如何使用AI /机器学习有关。[iii] 公司已经在使用AI来帮助他们招募候选人。他们希望AI帮助他们：

• 减少招聘预算
• 分数恢复
• 寻找适合职位描述的候选人
• 在容易吸引最佳人选的场地上刊登广告
• 评估候选人的资格
• 增强招聘流程的一致性

但是，这些好处很容易适得其反。让我们看几个例子。

• 减少招聘预算。随着机器接管以前由现场人员完成的某些功能，组织希望从长远来看将减少招聘过程的成本。但是，从长远来看，道路充满陷阱，因此可能无法实现预期的成本节省。不仅存在技术挑战，而且组织文化也可能需要改变。
• 分数恢复。得分为b时根据包含内置偏差的历史数据，机器学习算法可以学习这些偏差模式并在以后使用它们。候选人的姓名（例如，苏珊（Susan）和苏亚塔（Sujata）等）或在学校玩过的运动（也许是曲棍球与篮球）等数据，可能会产生无法预料的结果。
• 寻找适合职位描述的候选人。再说一次，历史数据表明，某种类型的候选人在组织中历来都是成功的。对算法进行编程以寻找具有相同特征的候选人可能是很自然的，从而复制了制度上的偏见。

此外，它还会以无法预料的方式增加偏见。

• 预测算法有助于宣传职位空缺并发挥猎头的作用。也就是说，它既可以找到正在积极寻求工作的候选人，也可以找到没有正在寻找工作的候选人。从表面上看，这听起来不错。但是，如果算法建议在适合某类候选人（例如男性）的场所刊登广告，那么只有男性才有机会申请。该组织可能会说：“嗯，我们在找女人，但没有人申请。”
• 这种偏见可能无法反映公司客户的多样性。对于拥有不同客户和/或跨国公司的大型组织尤其如此。
• 已知有一些算法可以预测谁会点击广告，而不是谁会成为最成功的候选人。

组织避免这些数字陷阱的一种方法是确保将业务分析师包括在这些数字项目中。广管局可以通过多种方式提供帮助。这里只是几个例子：

• 评估软件选项。 他们可以帮助评估AI工具，并仅推荐那些不会助长上述偏见的工具。 BA一直擅长于商业软件的选择和实施。当然，这假定广管局已经做好了功课，并且不仅熟悉各种可用选项，而且熟悉整个组织将使用或将使用AI的方式。
• 检查算法。这意味着BA必须积极与数据科学家（或创建算法的人员）进行互动，以了解所使用算法的类型以及原因。 BA需要确保所使用的算法将促进组织的目标和宗旨，并且AI的努力能够满足实际的业务需求。检查算法的一部分是查看如何衡量潜在候选人的成功。 BA需要查看端到端的招聘流程以及在流程的每个部分中使用AI的位置，以便检测可能在哪些地方出现内在偏见。
• 清理数据。 众所周知，大多数人都害怕AI的方面之一就是清除数据。但是，要使机器的预测结果值得信赖，就必须进行数据清理。清理过程的一部分是检查历史数据，以确保其中不包含潜在偏差。
• 测试软件。 BA可以帮助消除这些偏见，从而帮助他们主动测试这些工具。广管局可以审查测试用例，以确保对所有偏差进行了彻底的测试，并发现并消除了异常情况。

总而言之，有很多方法可以使偏差进入AI招聘技术。业务分析师可以帮助组织识别并消除这些应用程序中的偏见，从而为组织带来巨大的价值。

[一世] 招聘算法可以引入偏见的所有方式，作者Miranda Bogen，2019年5月6日，HBR， //hbr.org/2019/05/all-the-ways-hiring-algorithms-can-introduce-bias

[ii] 同上

[iii] 尽管有区别，但在本文中，我将交替使用AI和机器学习这两个术语。