本文原题New York City Regulates Workplace Artificial Intelligence Recruitment and Selection Tools,译自(https://www.jdsupra.com/legalnews/new-york-city-regulates-workplace-3169241/),由南开大学法学院单广瑞同学翻译。这篇文章主要介绍了法案的具体规定,并介绍了该法案对于雇主的可能影响。我又对法条部分做了校对(条文请访问:https://legistar.council.nyc.gov/LegislationDetail.aspx?ID=4344524&GUID=B051915D-A9AC-451E-81F8-6596032FA3F9&Options=ID),供参考。——柯振兴
2021年11月10日,纽约市议会批准了一项法案Int.1894-2020A(以下简称《法案》),规制雇主对于“自动化雇佣决策工具”的使用,遏制招聘和晋升决策中的偏见。《法案》正在等待DeBlasio市长签署,并将于2023年1月1日生效。如果市长在市议会批准后的30天内(即12月10日之前)不签署该《法案》,也没有否决,则该《法案》也将生效。
一、自动化雇佣决策工具
该《法案》将“自动化雇佣决策工具”定义为“源自机器学习、统计建模、数据分析或人工智能的任何计算过程”,以评分、分类或以其他方式提出建议,实质性地协助或替代人工的决策。该《法案》豁免了不会对人产生实质性影响的自动化工具,例如垃圾邮件过滤器、防火墙、计算器、电子表格、数据库、数据集或其他数据汇编。目前尚不清楚该《法案》是否涵盖被动招聘工具,例如LinkedIn所建议的工作。
该《法案》仅适用于在纽约市筛选雇佣候选人或雇员晋升的决定,不适用于其他与雇佣相关的决定。
二、《法案》对雇主的要求
该《法案》禁止雇主或职业介绍所为了一项雇佣决定而使用自动化决策工具来筛选候选人或雇员,除非:(1)该工具在使用前不超过一年进行了独立的“防止偏见的审查”(bias audit);(2)审核结果的总结以及审核所适用的自动化决策工具的分发日期(distribution date)已在雇主或职业介绍所的网站上公开。该《法案》没有明确规定是否以及何时应该更新审查,或者是否必须在雇主每次“使用”之前都进行新的审查。
该《法案》将可接受的“防止偏见的审查”定义为由独立审查员进行的公正评估,其中包括测试工具以评估其对任何联邦EEO-1“component 1类别”的人员的区别影响(disparate impact),即该工具是否产生基于种族、民族或性别的歧视。
此外,使用自动化雇佣决策工具的纽约市雇主必须通知居住在纽约市的每位雇员或雇佣候选人以下信息:
(1)在使用前至少十个工作日告知该工具将用于评估,并允许候选人请求替代流程或便利措施;
(2)在使用前至少十个工作日告知任职工作资格和特征——在评估个人时,工具会使用这些信息
(3)如果未在雇主网站上发布,在候选人或员工提出书面请求后的30天内,提供有关该工具收集的数据类型和数据来源的信息。
尽管该《法案》允许候选人请求“替代程序或便利措施”,但它没有说明雇主在收到请求时必须承担哪些义务(如果有的话)。
未能遵守法案任何要求的雇主或职业介绍所可能会因第一次违规而被纽约市公司法律部或消费者事务部处以最高500美元的罚款。雇主可能会因随后的每次违规而被处以500至1,500美元的罚款。
预计该《法案》的生效日期可能是2023年1月1日,在纽约市的招聘和晋升中使用自动化雇佣决策工具的雇主应采取措施确保遵守规定。这包括:
(1)确保自动化雇佣决策工具在使用前一年内通过独立的“防止偏见的审查”,特别是确定该工具是否在种族、民族或性别方面有区别影响;
(2)在雇主的公共网站上发布审查结果;
(3)制定一个方法通知员工和候选人(关于工具使用情况以及将使用工具评估的任职资格和特征);
(4)谨慎制定工作评估方案,确保只考虑关键知识、技能和能力,并考虑造成差异的潜在原因。
在招聘和选拔人才时寻求负责任地、合乎道德地运用人工智能工具的雇主不应将其工作仅限于遵守该法案。尽管纽约市的规定没有要求这些工具能否对残疾人等人群适用,但雇主也应考虑。他们还应考虑是否及如何使用被动招聘工具,这些可能不符合这部法规对于招聘候选人在通知方面的要求。
在实施任何类型的数字化招聘或者晋升的平台之前,雇主不妨咨询法律顾问,以确保遵守该法律和其他新颁布的关于人工智能的劳动法律规范。