TÜV南德亮相焉知大会，分享 AI系统与功能安全的评估实践

中国/上海  5月15日至16日，TÜV南德意志集团（以下简称 “TÜV南德” ）应邀参加焉知人形机器人科技创新大会。TÜV南德大中华区人工智能杰出工程师曹旸博士出席本次会议并发表“AI系统与功能安全—基于视觉技术的原型开发实践”主题演讲，与现场40余位业内嘉宾展开深入的研讨与交流。通过前沿科技的互动分享以及标准、政策、市场以及资本方面的探讨交流，分享人形机器人领域的最新成果与未来走向。

（TÜV南德曹博士出席焉知大会并发表演讲）

在工业4.0浪潮下，制造业正经历着从规模化量产向个性化定制的深刻变革。与此同时，随着具身智能技术在近两年跨越式发展，人形机器人也凭借着类人的形态，不仅能快速适应工厂中的复杂作业环境，还可直接操作标准工具和设备，深度融入人机协同的生产流程。这一转型对生产设施的灵活性、人机交互及机器人间协同能力提出了更高要求。尽管，从技术层面上我们乐观地认为通过强化人与机器人的交互能力能够进一步带来生产力效率的突破，但是人和机器人之间发生碰撞和伤害的风险也由此上升。为有效应对工厂运营者在效率与安全之间寻求平衡的现实挑战，一方面需要发挥物联网、人工智能、计算机视觉等先进控制技术的赋能作用，另一方面，基于这些先进技术开发的产品和服务，必须严格满足相应的安全设计要求。

（从传统物理围栏到虚拟围栏）

针对人和机器人之间处于同一空间/环境时，服务机器人国际标准ISO 13482:2024对机器人需要采取的措施提出了具体的要求，如当非接触式的传感技术检测到人靠近机器人时，机器人需要采取降低相对速度的措施。当这些功能涉及到人员安全时，需要考虑到功能失效导致威胁人员安全的风险。ISO 13482:2024也明确了当人工智能技术应用于功能安全时，需要考虑AI出现识别错误，或失效时如何保证人和机器之间的安全，这还涉及到ISO 13849的标准。尽管ISO 13849-1:2023认可AI技术应用功能安全中的应用可行性，但尚未明确其具体实施细则。目前，虽有ISO/IEC TR 5469对AI系统与功能安全的融合提供指导，但这一标准只提供了理论的评估框架，却没有给出具体要求，导致数据驱动型功能安全技术在标准落地与工程实践间存在明显脱节。为此，TÜV南德联合中山大学的研究团队，以工业场景从物理安全围栏向虚拟围栏转型为研究突破口，探索如何基于ISO/IEC TR 5469功能安全与人工智能系统的指导建议和规范，对基于计算机视觉AI目标检测技术的虚拟围栏系统，从底层算法设计开始到最终落地测试进行了探索和实践。

作为TÜV南德人工智能领域的专业工程师，曹旸博士在演讲中说明了从风险评估开始着手，将风险缓和措施融入底层算法逻辑设计开发的手法。在虚拟围栏系统中应用AI技术，不仅要考虑到通过目标检测识别到人类并精准定位是否进入风险区域，还需要考虑到算法从设计上是否能够应对设备出现失效、视觉出现遮挡、AI识别措施等异常状况。为此，在功能实现的基础上还引入了ISO/IEC TR 5469中建议的方法—功能实现+投票机制+后处理逻辑+冗余设计+输入输出监控机制+备份决策系统。除了本次会议中发表的内容，更多技术细节将会在今年计划发布的白皮书中进一步披露。

（会场照片）

关于焉知人形机器人科技创新大会

2025年焉知人形机器人开发者大会由焉知科技主办，于5月15日至16日在上海举办，以“智启新程 乘势而上”为主题，聚焦人形机器人技术突破与商业化落地。大会围绕“本体+具身智能+核心部件+产融”四大板块，涵盖感知决策、运动控制、AI芯片等技术议题，设“运动控制”“灵巧手”等四大分论坛，探讨国产替代路径与工业场景应用。活动汇聚全球顶尖科技企业、科研机构、资本方以及政府代表，超20家展商和45位嘉宾参展分享。同期颁发“知鼎奖”表彰产业链创新成果，并与“汽车千人大会”联动，推动跨领域协作。依托政策支持与技术突破（如国产传感器、电机等），2025年被视为行业从实验室迈向量产的关键节点，大会旨在加速技术融合与产业链协同，为人形机器人规模化落地及商业化爆发提供核心驱动力。

关于TÜV南德人工智能服务

对于人工智能的开发企业和应用企业，人工智能的风险以及质量都是至关重要的。除了性能以外，人工智能在自主性、公平性、透明性与可解释性、数据保护、信息安全、可靠性与鲁棒性等个方面的风险都要得到有效的评估和控制。人工智能的风险管理应贯穿于从概念、开发、部署、运营直到退役的全生命周期。

TÜV南德作为全球领先的TIC (Testing, Inspection, Certification) 机构，在人工智能领域有着坚实的基础。除了为客户提供人工智能的测试、认证、咨询和培训服务，TÜV南德推出的质量评估框架可以帮助企业系统地管理人工智能质量、控制风险、降低成本、确保合规性、提升产品的接受度，以应对人工智能带来的挑战和机遇。此外TÜV南德全领域的专家深入参与了各垂直领域，如医疗设备、自动驾驶、机械安全等国际法规与标准的起草工作。

在大中华区，TÜV南德组建了专业的人工智能评估团队，该团队由TÜV南德大中华区高级副总裁Robert Puto先生领导，旨在帮助中国企业高质量地应用人工智能技术，开发并提供可信赖的人工智能相关产品与服务，经由TÜV南德的合规性检查及技术评估达到国际市场准入标准，并提供全生命周期的保障服务。