机器人、智能设备的边缘AI即将问世

RyJSuel

Souped up工业机器人和智能设备将彻底改变我们在边缘侧使用AI的方式，并加深我们对云和数据中心的理解。
人形机器人、智能设备和自动驾驶经常被引为边缘侧利润丰厚的商业应用场景。但边缘侧AI计算将把AI从数据中心和云中的集中式服务器中解放出来，部署到制造工厂、手术室以及整个市政中心，实时处理数据，更接近物联网设备、传感器和智能系统。它还提供了低延迟和自主决策功能，使AI无处不在，并使全自主工业设施成为可能，从而彻底改变商业和日常生活。
罗克韦尔自动化公司的CIO深知这一点，该公司是英伟达的客户和合作伙伴，在边缘侧AI计算方面处于前沿地位。“AI从以云为中心的架构向基于边缘的部署的分散化转变，不仅仅代表着技术上的演进，”这位数字转型提供商的CIO克里斯·纳尔代基亚说道。上个月，该公司在英伟达GTC大会上展示了其Emulate3D高级工厂规模虚拟控制测试技术。“这从根本上重新定义了AI能力如何融入我们工业和个人环境的各个方面。”
该解决方案与英伟达的Omniverse API集成，将使制造商能够通过虚拟工厂验收测试，在物理部署之前验证自动化系统。
例如，边缘侧AI能够使企业在仓库中的智能设备或机器人上部署AI应用程序，在数据源附近而不是从公有云或数据中心运行计算密集型推理和决策模型，这大大加快了AI的速度。
在最近的会议上，英伟达继续大力推动边缘侧发展，推出了一系列先进的AI硬件、软件平台和开发者框架，包括Jetson Orin、Xavier和Nano平台、针对边缘侧高级应用增强的Blackwell Ultra AI芯片、用于自主机器的Groot N1 AI机器人模型、用于工业和医疗需求的IGX Orin工业级边缘侧AI平台，以及英伟达AI数据平台，以在边缘侧实现数据分析。
特别是英伟达的核心EGX企业边缘侧AI平台，为医疗、制造和零售行业提供实时AI工作负载支持，而其Metropolis平台则为智慧城市提供边缘侧视频分析支持。
在英伟达GTC大会上推出的Jetson Nano超级工作站，将为远程办公室或商业中心的企业用户提供强大的AI功能。而其针对医疗行业的Clara、针对自动驾驶的Drive和针对5G网络的Aerial，也将提供实时监控、预测性维护和流程优化功能，以减少现场工业资产的停机时间，提高整个生命周期内的系统性能。
一位分析师表示，英伟达用于物理AI的平台和产品阵容，如用于工业数字化的Omniverse，凸显了英伟达正在从单纯的半导体制造商，扩展成为硬件、平台、工具和框架提供商。
“市场还没有理解英伟达此举的意义，”Gartner集团首席AI分析师奇拉格·德卡特说。“这真的令人叹为观止。EGX和Jetson的组合，再加上英伟达的Cosmos平台，你可以在其中开发结合了AI和数字孪生优势的物理AI类环境，从而创建一个环境，帮助加速可以在边缘侧部署的智能的训练。而边缘侧正是他们现在正在改造我们的机器人、智能机器人、自动驾驶汽车和人形机器人的地方。他们正在形成一个新的增长领域，就像他们在数据中心使用GPU时所做的那样。”
事件顺序

市场最初接受了用于内容创作的GenAI，然后转向了自主式AI，使模型能够进行推理和执行任务。但工业AI革命的核心是物理AI或启用AI的机器人，它可以实现完全自主的工业设施，其中大部分部署在边缘侧。
例如，罗克韦尔的自主导航机器人(AMR)在吞吐量、劳动力优化和节省时间方面产生了可衡量的影响。纳尔代基亚说，这些机器人作为移动边缘计算平台，在本地处理传感器数据，同时将汇总的见解反馈给公司的FactoryTalk Edge Manager。
英伟达用于边缘计算的平台将扩展、丰富和公开工业数据，通过应用和分析创造新的价值来源。纳尔代基亚说，当物理AI和自主式AI相结合时，这种能力变得特别强大，能够实现真正的自主系统，可以在最少的人工干预下感知、决策和行动。他还表示，罗克韦尔对Otto Motors和Clearpath Robotics的战略收购，使该公司在生产物流自动化方面处于有利地位。
边缘侧AI正在改变工业数字化

根据IDC对27个企业行业的最新预测，今年全球在边缘计算解决方案上的支出将达到近2610亿美元，预计将以13.8%的复合年增长率(CAGR)增长，到2028年将达到3800亿美元。
IDC研究副总裁、云和边缘服务部门负责人戴夫·麦卡锡表示：“边缘计算有望重新定义企业如何利用实时数据，其未来取决于针对独特运营需求量身定制的行业特定解决方案。”“我们看到服务提供商正在加倍投资，建设低延迟网络，增强AI驱动的边缘分析，并建立合作伙伴关系，以提供可扩展且安全的基础设施。这些努力对于充分发挥边缘计算的潜力至关重要，从更智能的制造工厂到响应迅速的医疗系统，最终推动各行各业的新一轮创新。”
因此，CIO们正在规划他们的下一代AI架构，利用强大的平台、工具和框架来打造机器人和物联网设备，而这些设备和机器人需要具备自主决策能力。
“CIO们肯定计划将AI用于边缘工作负载，” Dairyland Power Cooperative的CIO Nate Melby说，他正着眼于此类进步，以在暴风雨中管理电网，并使系统能够在危险环境中进行快速分析和决策。人们还预计，在其他人类难以到达的物理环境中使用边缘AI设备将带来新的商业机会和盈利结果。
Melby说：“通过将AI推向边缘，我们可以减少对集中式架构的依赖，从而建立弹性，并通过将云资源与本地设备相结合来优化和处理更敏感或关键任务数据，以实现更容易的扩展和资源灵活性。但这还需要一段时间才能发展成熟。”
边缘计算的兴趣倍增

包括OpenAI、谷歌、亚马逊和创新的AI初创公司在内的许多顶级云和AI供应商都在瞄准边缘计算。例如，云提供商Oracle最近为其Oracle Roving Edge Device添加了一个GPU优化配置。“我们看到客户对边缘计算AI有需求，”Oracle Cloud Infrastructure的现场和行业营销高级副总裁Dave Rosenberg说。
Insight Enterprises产品创新的首席技术官Amol Ajgaonkar补充说，除了制造业之外，许多行业也将利用边缘AI，但这并不容易。如果将边缘定义为任何不在云中的东西——比如笔记本电脑、制造车间的一台机器、零售店中的销售点设备——那么医疗保健、零售和金融等行业将成为边缘AI的主要目标，他说。
Ajgaonkar说：“在边缘使用AI，一个很大的挑战是确定哪些数据对手头的任务是有用的，哪些是无用的，并设置流程，以便AI代理或一组代理可以在不需要人类持续参与的情况下进行管理。当创建预测模型(例如管理工厂车间机器的持续维护)时，如果未经过滤就存在某些偏差或畸形数据，则会影响模型并扭曲代理产生的结果。干净的数据输入始终对干净的输出至关重要，但这是一项微妙的平衡。”
AI咨询公司Intelagen的CEO兼前CIO Tom Richer说，他建议CIO们密切关注Nvidia的进步，因为Nvidia在AI基础设施、数据中心转型和边缘AI能力方面占据主导地位，所有这些都直接影响组织的创新和竞争能力。
他说：“随着边缘计算越来越多地被用于AI工作负载，这是由低延迟、带宽优化和增强的安全性需求所驱动的，这需要在内部部署和服务提供商部署之间做出战略决策，而混合方法通常被证明在平衡控制和可扩展性方面最有效。而这需要CIO们制定明确的战略、投资必要的基础设施，并时刻关注不断演变的技术。”
从边缘获益

物理AI的实施需要强大的边缘计算能力，以处理传感器数据并执行复杂的算法，同时保持最小的延迟。边缘计算通过将数据处理带到更接近数据源的地方，从而实现更快的响应时间、更高的数据传输效率和更强的安全性——这对于机器人技术和工业自动化中的应用而言都是关键因素，Rockwell的Nardecchia解释道。
随着平台和技术的不断成熟，我们可以预计AI将越来越多地嵌入到工业环境中的物理系统中。
对于像Rockwell这样的公司而言，这一演变代表了一个机会，可以在其产品组合中整合边缘AI能力。适当管理的边缘计算带来的业务成果是巨大的，包括以可负担的价格访问数据、更快的软件部署、未来就绪的分析平台、改进的安全态势、更好地扩展数字化转型举措以及降低总拥有成本。
Edge AI Foundation表示，CIO和企业希望在边缘实现自动化和智能设备。该非营利组织的首席执行官Pete Bernard说：“边缘AI的核心是在数据产生的地方运行AI工作负载，向边缘靠拢的引力意味着更低的成本、更低的功耗、更大的影响力，通常也意味着增强的隐私、更低的延迟、更高的灵活性和清晰度。CIO们负责确定信息战略。您希望将计算尽可能移动到数据产生的地方，避免云的入口和出口费用以及运营成本，并总体上对您的处理拥有更多的控制权。”
随着平台和技术的不断成熟，我们可以预计AI将越来越多地嵌入到工业环境中的物理系统中。
Analog Devices的边缘AI副总裁Paul Golding说：“基础模型的兴起正通过提炼和量化的转换器以及小型基础模型向边缘扩展。这一转变需要在边缘部署密集且计算密集的基础设施。同时，实时处理、低延迟和隐私的需求正推动AI更接近数据源——我们通常称之为传感器或物理边缘。自主式AI能够在异构节点上自主学习、适应和实时行动，这将彻底改变任务编排，随着我们从机器自动化迈向机器自主，将出现新的分布式智能形式，使关键任务能够在边缘运行，而无需依赖集中式云系统。AI的前沿仍然广阔无垠。”