2023年5月18日，美国平等就业机会委员会（EEOC）发布了一份“技术援助文件”（technical assistance document），题为“根据民权法案第七章评估雇佣选择程序中使用的软件、算法和人工智能的不利影响”。（Select Issues: Assessing Adverse Impact in Software, Algorithms, and Artificial Intelligence Used in Employment Selection Procedures Under Title VII of the Civil Rights Act of 1964）。如果雇主使用中立测试或选拔程序，该程序不成比例地排除具有种族、肤色、宗教、性别或国籍等特征的人，并且如果测试或选拔程序不是“与相关职位的工作相关且符合业务需要”，这被称为“区别影响（disparate impact）”或“不利影响”（Adverse Impact）歧视。例如，如果雇主要求所有求职者都通过身体敏捷性测试，该测试是否会不成比例地筛选掉女性？这个问题是本次技术援助文件的重点。本文截取部分内容，完整内容请访问（https://www.eeoc.gov/select-issues-assessing-adverse-impact-software-algorithms-and-artificial-intelligence-used）需要注意的是， EEOC的技术援助文件并非旨在制定新政策，而是将现有法律和EEOC政策应用于新的或特定的事实模式。它们旨在阐明法律规定的现有要求。它们不具有法律效力，也不以任何方式约束公众。
3. 即使这些算法决策工具是由另一个实体（例如软件供应商）设计或管理的，雇主是否根据第七章对其使用算法决策工具负责？
在很多情况下，是的。例如，如果雇主执行筛选程序，如果该程序的歧视行为属于第七章所禁止的行为，即使该测试是由外部供应商开发的，那么根据第七章，雇主也可能承担责任。此外，如果雇主授权代理人代表雇主行事，雇主可能对其代理人的行为负责，代理人可能包括软件供应商等实体。这可能包括雇主依赖代理人代表其管理选择程序结果的情况。
因此，决定是否依赖软件供应商来开发或管理算法决策工具的雇主可能希望至少询问供应商是否已采取措施来评估使用该工具是否会导致显著降低（具有第七章所保护的特征）的个人的被筛选上的比例。如果供应商声明该工具被认为会导致具有特定种族、肤色、宗教、性别或国籍的个人的被筛选上的比率大幅降低，那么雇主应该考虑该工具的使用是否与工作相关且与业务的必要性保持一致，以及是否有替代方案可以满足雇主的需求并且区别影响较小。此外，如果供应商对自己的评估不正确，并且该工具确实导致区别影响或者区别对待，雇主仍可能承担责任。
4. 什么是“选择率”？selection rate
“选择率”是指被录用、晋升或以其他方式选择的申请人或候选人的比例。一组申请人或候选人的选择率的计算方法是用该组中雇用、晋升或以其他方式选出的人数除以该组中的候选人总数。例如，假设80名白人和 40 名黑人参加了一项性格测试，该测试是使用算法评分的。作为工作申请的一部分，48名白人申请人和12名黑人申请人进入下一轮选择过程。根据这些结果，白人的选择率为 48/80（相当于60%），黑人的选择率为 12/40（相当于30%）。
5. 什么是“五分之四法则”？four-fifths rule
《关于员工选择的统一指南》（the Uniform Guidelines on Employee Selection Procedures，下称指南）中引用的五分之四规则是确定一个群体的选择率是否与另一群体的选择率“显著”不同的一般经验法则。该法则规定，如果比率低于五分之四（或80%），则一个群体的选择率与另一群体的选择率存在显著性差异。
在上面涉及由算法评分的性格测试的示例中，黑人申请人的选择率为 30%，白人申请人的选择率为60%。因此，这两种比率的比率为 30/60（或50%）。因为30/60（或50%）低于4/5（或 80%），五分之四规则表明本例中黑人申请人的选择率与白人申请人的选择率有显著性差异，这可能成为歧视黑人申请人的证据。
6. 遵守五分之四规则是否保证特定的雇佣程序不会产生不利影响？（基于第七章的立法目的）
五分之四规则只是一个经验法则。正如《指南》本身所指出的，五分之四规则在某些情况下可能不合适。例如，在以下情况，选择率的更小的差异也可能意味着不利影响，其中使用程序进行大规模的筛选，或者雇主的行为已经阻碍个人以受第七章保护的特征为由不成比例地申请。五分之四规则是一项“实用且易于管理”的测试，可用于初步推断两组的选择率可能存在很大差异，并促使雇主获取有关被怀疑的程序的的更多信息。
法院也认为使用五分之四规则并不总是合适的，尤其是在它不能合理替代统计显著性检验的情况。因此，当该程序因歧视指控受到质疑时，EEOC 可能不会认为遵守这项规则足以表明特定的选择程序（根据第七章）是合法的。
出于这些原因，雇主在决定是否依赖供应商开发或管理算法决策工具时，可能要具体询问供应商是否依赖五分之四的经验法则（当确定工具的使用是否对受第七章保护的特征产生不利影响，或者是否依赖于法院经常使用的统计显著性等标准）。
