恩智浦丨在边缘规模化部署可信物理AI：如何做，才能更高效？

　　AI持续快速演进，但有一个趋势变得明朗——智能正逐步向数据产生的源头靠拢。在机器人、工业自动化、智能基础设施和自主系统等领域，AI正从感知阶段迈向生成与行动阶段。系统越来越要求具备实时解析信息、做出决策并迅速响应的能力，而无需依赖数据往返云端。

　　随着AI深入物理世界，开发人员需要既能扩展智能、又能兼顾功耗、内存、安全性和系统复杂性的平台。

　　超越“边缘AI”的范畴

　　随着AI应用加速普及，“边缘AI”已成为行业共同关注的焦点。如今几乎每个平台都宣称具备一定程度的AI推理能力。然而，对于嵌入式开发人员而言，挑战往往不在于添加AI功能，而在于如何在现有功耗预算、安全要求和嵌入式架构内成功实现AI部署。

　　当团队试图在不增加功耗的前提下将智能引入现有嵌入式系统时，往往会带来集成复杂性，或引发新的信息安全与功能安全问题。开发人员越来越需要同时平衡多项因素，包括：

　　AI性能

　　高能效

　　嵌入式集成

　　硬件架构

　　存储要求

　　信息安全

　　开发便捷性

　　长期可扩展性

　　AI的成功部署，取决于在提供智能的同时，保留嵌入式系统最核心的特性：行为可预测、功耗预算可控以及开发流程高效简洁。

　　AI工作负载正在改变边缘计算

　　AI正从孤立的感知任务，演进为能够解析场景、做出决策并实时行动的完整系统。语音、视觉、传感器和控制系统正日益动态地协同工作，推动边缘侧实现智能化和自主化。

　　以在工业仓库环境中导航的移动机器人为例，它可能需要：

　　解析多路摄像头数据流

　　检测物体并对其进行分类

　　融合多种传感器信息

　　了解环境场景

　　实时做出导航决策

　　与周围系统保持通信

　　这些任务非常重要，因为它们通常需要同时运行并实时处理，从而给边缘的处理、内存和电源资源带来较大压力。尽管应用处理器不断进步，但对低延迟AI推理的需求增长通常更为迅速。挑战在于，如何在无需完全重构系统架构的前提下提升AI能力。

　　边缘AI正在改变物理空间，同时也给嵌入式开发人员带来新的挑战。

　　在不增加复杂度的前提下扩展智能

　　专用AI加速为系统设计引入了不同的模式。开发人员需要的系统架构，不仅要能支持神经网络推理，还要能支撑把业务逻辑与物理访问或控制网关连通起来的完整的端到端AI工作负载，而不是让主处理器承担所有任务。这要求专用AI加速硬件来运行高级工作负载，同时由主处理器继续承担系统级管理职责。

　　恩智浦Ara240独立神经处理单元 (DNPU) 正是基于这一理念设计而成。作为专用AI配套处理器，Ara240使开发人员能够独立于系统架构的其余部分来扩展AI性能。

　　高级AI工作负载，包括计算机视觉、多模态Transformer模型 (如视觉语言模型 (VLM)和大语言模型 (LLM))，均可分流至DNPU，而主处理器继续负责管理连接、安全、用户界面和实时控制等任务。这种方法帮助客户在不重新设计整个平台的情况下，引入更先进的AI能力。这种架构分离带来的优势包括：

　　系统实时响应能力

　　能效优化

　　本地处理，增强隐私保护并降低带宽要求

　　通过工作负载隔离提升安全性

　　随工作负载演进而灵活扩展的AI性能

　　内存可灵活扩展

　　在本地处理AI还可减少对云资源的依赖，同时将敏感数据始终保留在设备端。与恩智浦应用处理器配合使用，Ara240帮助开发人员构建更加灵活、面向未来的边缘AI系统，能够紧跟AI模型与工作负载的演进步伐。

　　Ara240独立神经处理单元。

　　借由eIQ AI软件开发环境让AI落地

　　硬件加速只是解决方案的一部分。开发人员同样需要软件工具来简化模型开发和优化，并支持在多种处理环境下可靠部署。

　　恩智浦eIQ AI软件开发环境提供模型优化、部署和性能调优工具，帮助开发人员从实验验证走向量产阶段，覆盖恩智浦微控制器 (MCU)、微处理器 (MPU) 和AI加速器产品线。

　　对常见AI框架的支持以及可扩展的部署工作流程，有助于降低集成复杂度，同时让开发人员能够在多代产品中复用AI方面的投入。结合恩智浦硬件平台与生态系统合作伙伴的支持，eIQ有助于加速从概念验证 (POC) 到量产就绪系统的落地过程。

　　Ara软件开发套件 (SDK) 将是eIQ AI软件的组成部分，允许开发人员编译模型以进行基准测试或部署，并在Hugging Face上的Ara240 Model Zoo模型库中运行已针对Ara240优化的现有模型二进制文件。

　　打通技术与部署之间的壁垒

　　仅靠强大的芯片不能解决当前AI开发面临的所有挑战。构建嵌入式系统的团队仍然需要开发平台、软件支持、系统集成指导以及长期产品策略 (即生命周期支持)。这正是生态系统协作发挥关键作用之处。

　　F&S和Gateworks等系统供应商，连同其他生态系统合作伙伴，致力于将处理技术转化为部署就绪的平台，从而在设计初期就降低复杂度。开发人员不必从零开始进行硬件设计，而是可以基于已经包含内存布局、电源管理、散热考量、软件支持和生命周期规划的解决方案起步。

　　加速机器人与功能安全发展

　　随着AI工作负载不断扩展，许多开发人员面临一个熟悉的挑战：将原本分散在不同领域的多重要求整合到一起。现代系统越来越需要将Linux环境、AI框架、编译器、实时响应能力和功能安全架构融合于单一平台之中。

　　这在机器人和智能自主系统领域尤为突出，开发人员可能需要同时管理多路摄像头数据流、运行AI推理、支持Robot Operating System 2 (ROS 2)等框架，并确保安全导向的操作。

　　F&S通过集成式嵌入式平台来应对这一挑战，将硬件、软件和长期支持整合为完整的开发方案。其支持不仅限于模块交付，而是延伸至整个项目生命周期，涵盖硬件定制、Linux板级支持包 (BSP) 支持、散热设计考量、安全集成和生命周期管理。

　　以我们的i.MX 95应用处理器与Ara240 DNPU的组合为例，二者结合构建出一个可扩展平台，适用于机器人、机器视觉、自主系统及安全导向应用。在该架构中，i.MX 95负责系统级管理 (如连接、安全和控制功能)，Ara240则为高级神经网络工作负载提供专用AI加速支持。

　　对开发人员而言，这意味着可以在不放弃熟悉的Linux和ROS开发环境的前提下，构建融合AI、实时响应与功能安全的系统。随着自主系统能力的持续提升，平衡智能、控制与可信度变得愈发重要。

　　F&S的M.2 Ara240 AI加速器，为边缘带来了真正的生成式AI性能。

　　将工业AI落地于可部署系统

　　对于众多嵌入式开发人员而言，挑战不在于单纯添加AI功能，而在于降低将AI系统推向生产环节的复杂度。

　　Gateworks通过帮助将可扩展AI平台引入实际部署场景，为恩智浦的边缘AI和机器人战略提供有力支撑。

　　从零开始构建工业硬件，需要在电源管理、散热设计、内存配置、软件集成和长期维护等方面投入大量精力。随着AI工作负载从传统计算机视觉向多模态和生成式AI应用演进，这些挑战愈发突出。

　　Gateworks通过其围绕恩智浦技术打造的工业级单板计算机、AI加速模块和开发套件，有效简化了这一流程。以GW11062-1开发套件为例，它将恩智浦i.MX 95应用处理器与Gateworks基于恩智浦Ara240 DNPU的GW16168 AI加速器相结合。该集成平台为开发人员提供了即用型环境，可用于评估和部署高级边缘AI应用，有助于显著缩短开发周期并加快产品上市进程，尤其在前沿AI模型支持方面表现突出。

　　i.MX 95与Ara240的组合构建了一种可扩展的架构，连接、安全、用户界面和控制等系统功能保留在主处理器上运行，而AI推理工作负载则分流至专用加速硬件。这一方案使开发人员能够在不重新设计整体系统架构的前提下，灵活提升AI能力。

　　通过提供部署就绪的硬件和软件，Gateworks帮助开发人员更快地从概念验证 (POC) 迈向量产阶段，应用场景涵盖自主移动机器人、工业自动化、智能能源系统和智能基础设施等领域。

　　Gateworks基于恩智浦Ara240 DNPU的M.2 AI加速器 ，在边缘提供高性能、低功耗的AI推理能力。

　　展望未来

　　边缘AI正从概念验证演示走向实际系统。

　　开发人员需要构建的产品，应能在极短的响应窗口内完成观察、聆听、感知、理解和决策，同时平衡信息安全、功能安全、性能和功耗等方面的约束。

　　满足这些期望，仅靠增加计算资源远远不够，还需要具备可扩展能力的系统架构，以及能够帮助开发人员将创意转化为可部署系统的生态合作体系。

　　行业正从单纯增加AI功能，转向构建能够在物理世界中感知、推理和行动的系统。成功的关键在于平衡智能与嵌入式设计的实际限制，这些限制涵盖功耗、内存、信息安全、功能安全以及整体系统复杂度。

　　边缘AI的未来，不会仅由模型规模或基准测试性能来定义，而取决于智能如何高效地部署到安全、可扩展且注重节能的系统中，以解决实际问题并加速产品上市进程。