TÜV AI@ TÜV SÜD 专栏第十一期：欧盟新机械法规关于人工智能的相关要求

中国/广州   欧盟人工智能法案将于2024年强制执行， 为协助中国人工智能相关企业提前应对即将到来的国际监管，TÜV南德意志集团（以下简称“TÜV南德”）已推出人工智能评估服务：AI 质量架构评估方案。

本文为Trust AI@TÜV SÜD的系列专栏的第十一篇，介绍欧盟新机械法规中关于人工智能相关机械的要求。

AI 质量架构评估方案

在本系列专栏第三期关于“欧盟人工智能法案的政策选项”的文章中，已经介绍了人工智能的治理与监管的横向主题与纵向主题。纵向主题是在不同领域，由各领域的特定法案覆盖的监管内容。除了横向的人工智能法案，欧盟的各领域法规也在进行立法工作的更新，以应对人工智能和其他前沿技术带来的挑战。

图一，AI的横向主题与纵向（领域)主题

在机械与制造领域，机械指令2006/42/EC已经执行超过15年。新机械法规经过两年的研究与讨论，2023年5月22日经欧盟理事会批准，于6月29日正式发布新法规EU 2023/1230，并在20个自然日后自动生效。新机械法规将有42个月的过渡期，如无意外，将于2027年1月起强制执行。

EU 2023/1230相比2006/42/EC，从指令上升为法规，无需经过各成员国的批准和采纳程序即可在所有成员国适用，增加了法律的确定性。
新机械法规EU 2023/1230的一个重要目标是应对前沿技术，如人工智能，物联网和机器人的广泛应用对于机械安全的冲击。在新机械法规中，人工智能被称作“自我进化行为”(self-evolving behaviour)。

新机械法规的另一个重大变更是增加了必须通过公告机构强制认证的产品清单（附录I，A部分）和可以由公告机构认证（非强制）的产品清单（附录I，B部分）。而在强制认证的产品清单中,有两项与人工智能相关：

5.通过机器学习实现完全或部分自我进化行为，以保障安全功能的安全元件。

6.通过机器学习实现完全或部分自我进化行为，以保障安全功能的机械。这些安全功能是通过机械的嵌入式系统来实现的。嵌入式系统不会独立投放市场。

欧盟机械产品公告机构TÜV SÜD Product Service GmbH的公告号0123

机械产品的制造商必须执行风险评估以保证其机械产品满足机械法规的核心健康与安全要求（EHSR)。新机械法规的EHSR（附录III）增加了对人工智能危险的评估要求。

“风险评估与风险降低流程须包括机械及相关产品在投放市场后整个生命周期的可预见的危险，包括通过完全或部分自我进化的行为或逻辑，以实现不同程度自主性的机械及相关产品。风险评估与风险降低流程须覆盖由于集成的机械之间的协同工作所引入的风险。”

除此以外，在EHSR的人体工学条款（1.1.6）中也增加了人工智能的要求：

(f) 可以适应不同操作者的可预见特性的、可调整的人机界面，包括通过完全或部分自我进化的行为或逻辑，以实现不同程度自主性的机械及相关产品的人机界面。
(g) 自适应的机器，通过完全或部分自我进化的行为或逻辑，以实现不同程度的自主性，充分响应人类的命令（例如语音，姿势，面部表情或人体的移动），以及与操作者就计划的任务进行沟通（例如要做什么及为什么）。
在EHSR的控制系统的安全与稳定性条款，增加了以下要求：

通过完全或部分自我进化的行为或逻辑，以实现不同程度自主性的机械或相关产品的控制系统应以以下方式设计和构造：

（a）它们不可以导致机械或相关产品执行超出其限定任务和移动范围的动作；
（b）在机械和相关产品投放市场后，对于确保安全功能的软件，记录与安全相关的决策过程的数据。这些数据至少保留一年，并在欧盟成员国国家机构的合理要求下展示机械及其产品的符合性；
（c）它们可以在任何时候更正机械或相关产品的动作，以维持机械的本质安全。

综上所述，如果机械及相关产品具有人工智能相关的组成部分，制造商则必须执行风险评估，以确定机械及相关产品所嵌入的人工智能满足新机械法规中规定的核心健康与安全要求，包括安全功能、控制系统和人体工学的相关要求。如果嵌入的人工智能所执行的功能涉及安全，则机械及相关产品再投入欧盟市场前必须经过欧盟公告机构的强制认证，获得型式检验证书，并在铭牌的CE标志后标注公告机构的公告号。

 
作者:

Frank Zhu  Frank.zhu@tuvsud.com
Lingze Meng  lingze.meng@tuvsud.com
Yao Cheng yao.cheng@tuvsud.com

关于TÜV南德人工智能服务

对于人工智能的开发企业和应用企业，人工智能的风险以及质量都是至关重要的。除了性能以外，人工智能在自主性、公平性、透明性与可解释性、数据保护、信息安全、可靠性与鲁棒性等个方面的风险都要得到有效的评估和控制。人工智能的风险管理应贯穿于从概念，开发，部署，运营直到退役的全生命周期。

TÜV南德作为全球领先的TIC (Testing, Inspection, Certification) 机构，在人工智能的审计领域也有着坚实的基础。TÜV南德全球数字服务中心首席技术官Martin Saebeck博士是ISO与IEC的联合技术委员会JTC 1/SC 42标准工作组的核心成员，并正在主持多项人工智能国际标准的起草工作。此外TÜV南德全领域的专家深入参与了各垂直领域，如医疗设备、自动驾驶、机械安全等国际法规与标准的起草工作。 

在大中华区，TÜV南德也组建了专业的人工智能评估团队，该团队由TÜV南德大中华区高级副总裁Robert Puto先生领导，旨在帮助中国企业高质量的应用人工智能技术，开发并提供可信赖的人工智能相关产品与服务，经由TÜV南德的合规性检查及技术评估达到国际市场准入标准，并提供全生命周期的保障服务。