《研究简报》第350期 人工智能在人力资源管理应用中的风险隐患、治理挑战及对策建议
姜铠丰
观点概览
l 针对人工智能在人力资源管理中的应用开展的两轮调研(1715家企业)显示:仅约40%企业尝试AI应用,集中在招聘筛选等局部场景。
l 企业在推进人工智能应用过程中面临数据隐私和安全问题、技术局限与成熟度问题、实施和维护成本较高、决策透明度与可解释性不足、算法偏见与公平性问题等五方面挑战。
l 许多企业在人力资源数据基础方面仍然较为薄弱,依赖通用大模型来支持企业决策,难以匹配自身管理情境。
l 建议强化数据基础建设、建立员工知情与选择机制、建立算法验证与评估机制、坚持人工审核的最终责任机制、强化决策留痕与可解释机制。
近年来,人工智能技术快速发展并逐步进入企业人力资源管理领域,在招聘筛选、绩效管理、培训发展以及行政流程自动化等方面展现出较大的应用潜力。但从调研情况看,相关技术在企业管理中的应用仍处于探索阶段,同时也伴随着一系列风险隐患和治理挑战,亟需加强规范与引导。
一、基本情况
开云手机在线官网思想力智库曾就人工智能在人力资源管理中的应用开展两轮企业调研。第一轮调研于2024年12月完成,共有1022家企业的人力资源负责人参与;第二轮调研于2025年6月完成,共有693家企业参与。总体来看,企业对人工智能在人力资源管理中的应用前景普遍保持积极预期,但实际采用水平仍然有限。两轮调研平均结果显示,仅约40%的企业表示已在相关领域进行过一定尝试,而且应用主要集中在招聘、简历筛选、员工服务以及行政流程自动化等局部场景,尚未形成系统化应用。
调研同时显示,企业在推进人工智能应用过程中普遍面临多方面挑战。根据企业调研结果反映的挑战突出程度排序,主要包括以下五个方面:
一是数据隐私和安全问题。人力资源数据涉及员工身份信息、绩效记录、职业发展信息等大量敏感数据,企业在数据采集、存储和使用过程中普遍担心合规风险与数据泄露风险。
二是技术局限与成熟度问题。当前人工智能在处理复杂的人才评价问题方面仍存在明显局限,特别是在涉及潜力评估、团队协作能力、价值观匹配等方面,算法能力仍不稳定。
三是实施和维护成本较高。企业在部署人工智能系统时,需要投入较高成本用于系统建设、数据整理以及后续维护,中小企业尤其面临较大压力。
四是决策透明度与可解释性不足。许多人工智能模型属于“黑箱模型”,企业管理者与员工往往难以理解算法推荐结果的依据,从而影响其信任度和可接受程度。
五是算法偏见与公平性问题。如果训练数据本身存在历史偏差,算法可能在招聘或晋升等环节放大不公平现象。