美国首起AI招聘歧视案,最终以中国公司赔偿36.5万美元(约264万元)结束。
美东时间8月9日,美国平等就业机会委员会 (EEOC) 与中国教培公司麦奇教育科技(iTutorGroup)达成和解,后者因应聘者年龄大拒绝了200多名申请者,被判赔36.5万美元,用于补偿被拒的应聘者。
据EEOC指控,iTutorGroup于2020年对其在线招聘软件进行编程,该算法会自动拒绝年龄较大的应聘者,55岁以上的女性和60岁以上的男性将被取消考虑资格。
EEOC认为,这违反了美国《年龄歧视法》(ADEA),该法保护40岁及以上的人免受歧视。iTutorGroup否认其有任何不当行为。在双方无法达成诉前和解时,EEOC在美国纽约东区地方法院提起了法律诉讼。
“年龄歧视是不公正和非法的,即使技术使歧视自动化,雇主仍然负有责任。”EECO主席夏洛特·A·伯罗斯(Charlotte A. Burrows)表示,“这个案例正是EEOC最近发起人工智能和算法公平倡议的一个例子,因雇主使用技术而受到歧视的工人,可以依靠平等就业机会寻求补救措施。”
根据同意令,iTutorGroup不得基于年龄或性别拒绝应聘者,还必须采取反歧视政策并进行反歧视培训。此外,该公司必须邀请所有在2020年3月和4月因年龄原因被拒绝的申请人重新申请。
其成立于1998年,旗下品牌包括成人在线英语教育品牌TutorABC、青少儿在线教育品牌VipJr、在线汉语教育品牌TutorMing等,提供成人英语、汉语和青少儿英语、数学、语文、编程等真人在线互动课程。高峰时期y6英亚体育,曾在全球范围有超三万名外籍顾问。
在2012-2015年间的四轮融资中,iTutorGroup累计融资金额超3亿美元,启明创投、阿里巴巴、淡马锡、高盛、银翎资本等国内外顶尖级机构均在投资之列。
2019年7月,中国平安宣布集团子公司平安海外(控股)有限公司与集团境外联营公司,将以资金和资源注入的形式,战略入股iTutorGroup。本次入股完成后,iTutorGroup将被纳入到平安整体生态圈战略体系中,成为智慧教育板块的核心组成部分。
同年,iTutorGroup CEO杨正大对外宣称,公司已完成Pre-IPO轮融资,上市计划在推进中,预计在2019年下旬或2020上旬完成。“双减”后,该公司对外发声减少,上市计划也不了了之。
界面教育发现,外教数量庞大的iTutorGroup还曾被指“随机解雇教师”、“报酬低”。
2021年1月,在YouTube拥有超1.5万订阅者的英语教师Martin发布一则视频,观看量近万,其自称曾任职于iTutorGroup,并指责该公司“在2020年6月解雇了许多教师,无论其服务年限如何,当时正值世界其他地区疫情最严重的时候。”
Martin还表示,其于2021年1月收到iTutorY6英亚体育官方网站Group发来的关于聘用合同更新的电子邮件,“提供的报酬令人愤怒”——以前每节课45分钟的课程收入15英镑,如今缩减至8英镑。25分钟的课程收入由8英镑减少至6英镑。
该视频下方收获了不少支持者的评论。有人分享到自身的经历称:“尽管教师的工资已减半,但学生仍然支付高昂的费用。我刚刚获得 CELTA资格,看不到这个行业的未来。”、“如果他们给我提供新合同,相同的工作量下,我每个月会损失大约400加元。”
美国人力资源管理协会(SHRM)在2022年2月的一份报告中指出,受调查的1688家美国公司和组织中,近1/4计划在未来五年内y6英亚体育,使用自动化技术或AI来支持招聘工作,包括自动搜索求职者、筛选审阅求职者简历、针对特定群体发布招聘信息、预先选择求职者进行面试、管理自动面试并分析求职者回复等。
64%的HR表示他们的自动化或AI工具能自动过滤不符合条件的应聘者;85%的受访者认为这节省了时间、提高了效率;44%认为这有助于帮他们提升识别拔尖应聘者的能力;还有30%的人认为采用AI能减少招聘决策中的潜在偏见。
今年一月,EEOC就2023-2027年战略执行计划草案征求公众意见,该机构首次考虑了雇主对人工智能和机器学习工具的使用,并为律师提供了行动路线图。EEOC认为,雇主可以使用AI工具来筛选简历中所需的品质和经验,但这可能会导致有意或无意的歧视。
该机构主席夏洛特·A·伯罗斯上周重申,该委员会将人工智能作为“新的民权前沿”,并表示新工具不应“侵蚀基本价值观和原则”。
随着ChatGPT、Stable Diffusion、Midjourney等生成式人工智能产品在国内外爆红。以ChatGPT为代表的大语言模型在理解人类语言、人机交互、各类文本写作、代码编Y6英亚体育官方网站写、逻辑推理等方面展现出了令人惊叹的能力。
但同时,生成式人工智能的应用也带来了侵犯隐私、泄露商业秘密、传播虚假信息、造成信息茧房y6英亚体育、可能被滥用于网络犯罪等潜在风险问题,引起了各国监管部门的广泛关注。
2023年4月11日,中国公布了《生成式人工智能服务管理办法(征求意见稿)》要求算法备案;意大利据保护局(Garante)即以涉嫌侵犯隐私为由在本国禁用ChatGPT,并对ChatGPT应用程序涉嫌违反隐私规则展开调查。欧盟的《人工智能法案》则将AI分成三个危险级别,危险越高受到的监管越多。
针对AI在具体领域的运用以及法律的具体实施上,仍有待进一步完善和细化。返回搜狐,查看更多