自2026年5月起,高风险的人工智能系统将如何管理?

《劳动报》法律咨询办公室答复:

第15条,第142/2026/NĐ-CP号议定书,详细规定了《人工智能法》(自2026年5月1日起生效)的若干条款和实施措施,规定了高风险人工智能系统的管理,如下:

1. 高风险的人工智能系统供应商必须根据其使用的、部署范围和系统风险程度,建立和维护其提供的系统的风险管理系统。

2. 本条第1款规定的风险管理系统至少包括以下内容:

a) 确定并评估在设计、开发和提供系统过程中可能对人权、安全、安保或公共利益产生的风险;

b) 确保培训数据、测试数据和评估数据在必要范围内的质量、一致性和代表性,以限制数据产生的风险;

c) 设计并维持与系统风险程度相符的人类监督和干预机制;

d) 采取技术措施或管理措施,以预防、限制或控制已确定的风险;

d) 审查和更新风险管理措施,当系统在模型、数据、操作方式或使用目的上发生重大变化时。

3. 供应商有责任向部署方提供有关系统使用目的、安全运行条件、已确定的风险以及相应的风险管理措施的必要信息,以确保系统正确部署和使用。

4. 部署高风险人工智能系统的方必须在部署和运行系统过程中组织风险管理,使其符合使用目的、部署范围、系统风险程度和供应商的技术指导。

5. 在实施和运营过程中,实施方采取以下风险管理措施:

a) 按照供应商确定的用途、使用条件和使用限额正确运行系统;

b) 组织监控系统运行,以发现可能发生的错误、风险或事故;

c) 根据法律规定,建立和维持人类在系统使用过程中的监督和干预机制;

d) 在发现系统未按使用目的运行或产生新风险时,在其控制权范围内采取限制或控制风险的措施;

d) 在系统发生重大变化或发生事故时,与供应商协调审查和更新风险管理措施。

6. 如果发现该系统有可能对人的生命、健康、人权、财产、网络安全、社会秩序、安全或公共利益造成严重损害,实施方必须及时在其控制范围内采取风险限制措施,并按照法律规定通知供应商和有权的国家机关。

因此,从2026年5月1日起,高风险的人工智能系统将按照上述规定进行管理。

在此处查看原文