ADP 如何实践人工智能治理与人类监督

对于这家人力资本管理与薪资服务公司而言，在其产品中嵌入人工智能，同时坚持强有力的人工智能治理实践，并非互斥之事。

尽管ADP在其IT团队内部将人工智能用于编程，并自动化AI图像与视频生成等任务，但它也在其 ADP Assist 工具中集成了生成式人工智能功能。ADP Assist是一套跨人力资源与薪资工作流运行的人工智能代理（AI agents）组合，旨在减轻人力资源与薪资团队的压力。

作为一家在企业级人力资源与薪资领域具有广泛影响力的机构，ADP已将负责任的人工智能（responsible AI）视为其面向客户发布工具的关键要素。

在本次问答中，ADP副总裁、总法律顾问兼人工智能法律事务官海伦娜·阿尔梅达（Helena Almeida）探讨了该公司在当下公众高度关注人工智能风险与安全之际所践行的负责任人工智能实践与原则。 公众对人工智能风险与安全的关注。

随着生成式人工智能日益主流化，ADP的负责任人工智能实践发生了怎样的变化？

海伦娜·阿尔梅达： ADP多年来一直在使用不同版本的人工智能与机器学习技术。我们早已建立了一套负责任人工智能计划。自2018年起，我们就确立了一套ADP人工智能与数据伦理准则，用以规范人工智能的开发与部署方式。 自大致同一时期起，我们成立了人工智能与数据伦理委员会，该委员会由内部主题专家与外部专家共同组成，涵盖法律、隐私、伦理、人力资源及产品等领域，成员既包括内部人员，也包括外部供应商。我们拥有一支专门团队，持续审视技术与人工智能的应用，确保我们具备恰当的视角。

我们始终在思考负责任的人工智能问题。随着人工智能技术演进至包含生成式人工智能（GenAI）应用，我们持续审视自身流程，持续审视ADP内部跨职能团队对人工智能治理的落实情况，并持续更新相关机制。核心前提始终是确保人工智能公平、透明、安全，并确保人类参与其中。影响人们的关键决策本身并未改变。

ADP如何应对各州与各国之间差异化的治理层级？尤其考虑到美国各州及各国法律法规各不相同。

阿尔梅达：所有这些法律共通的原则是相同的。这些原则包括用户可识别的透明度、

可解释性 、风险管理、隐私与安全，以及持续开展监测项目。上述各项要素均以不同形式出现在各类监管框架之中。我们认为，这些原则我们早已长期施行，并已成功应对诸多变革。

我们拥有指导性原则，用以辅助产品设计。我们持续关注法规变化与监管动态。但我们注意到这一共性趋势，并确信我们的项目已充分考量相关因素，从而覆盖这些法规要求。

监管可能的到来，是否会决定贵组织所采用的人工智能产品，或决定您如何将人工智能嵌入客户所使用的工具之中？例如，倘若美国出台一套联邦层面的人工智能监管

框架或设立专门监管机构 ，这会产生何种影响？ 阿尔梅达：全球某些地区已禁止特定人工智能用途，因其对终端用户存在安全隐患。无论是否存在相关法律，ADP均不会涉足此类活动。真正影响我们的，是当我们审视各项法律时，如何确保本产品在特定应用场景下满足所需的透明度与可解释性水平。我们始终对自身所作所为极为审慎，因为仅在美国，ADP就为六分之一的劳动者发放薪资。这些劳动者亲身使用ADP服务，并通过ADP领取工资。

你们的一项原则是确保

人类参与其中

。那么，您如何确保人类并非只是机械地批准人工智能所做之事？ 阿尔梅达：我们不能让人类参与沦为一种形式化的勾选动作——即人类仅执行某个步骤，只为表明‘我们设置了人工闭环’。我们必须为人类提供真正有意义的参与机会。我们必须确保相关人员理解人工智能的运行规则，并掌握足够背景信息，以便识别出异常或可疑的结果。人类审核不应成为每一项人工智能支持任务的反射式强制要求，因为并非所有人工智能支持任务的风险等级相同。因此，涉及员工薪资、雇佣关系或法定权利的设计，理应设置人类互动环节；而低风险的行政性任务则可安全实现自动化，无需人工干预。这正是我每日工作的组成部分：思考何处需要人类参与，继而与产品团队协作完成相应设计。

有些情形显而易见，有些则难以在前期充分预判。

例如，存在一种被称为

自动化偏见

的现象：当人工智能告知你某答案正确时，人们往往倾向于相信并继续推进。我们希望确保此类情况不会发生。我们始终对内部使用的新功能进行试点测试。我们观察客户对这些功能的使用情况，有时会发现人们花费大量时间处理某项略偏行政性且风险较低的任务，而非我们原本预期他们更需投入时间的任务。随后我们会调整设计，确保激励机制引导用户将时间投入真正重要的事项上，因为向客户提供能提升其生产力的工具至关重要。 编辑注：本问答已为清晰性与简洁性而编辑。如果AI告诉你存在一个正确答案，人们往往会相信它并继续下一步。我们希望确保这种情况不会发生。我们始终会对内部使用的工具进行试点测试。我们会观察客户对这些工具的使用情况，有时会发现人们花费了远超预期的时间在一些略显行政化、更稳妥的任务上，而非我们原本预想他们会投入更多时间的任务。随后我们会调整设计，以确保用户有恰当的激励机制，将时间投入到真正重要的事情上，因为向客户提供能提升其工作效率的工具至关重要。

编辑注：本问答已为清晰性和简洁性进行了编辑。