AI在边缘

趋势8:地址延迟,基于边缘智能的特定点上下文学习

智能应答,汽车建议语法、句子填空题在输入电话,语音识别,语音助手,面部生物识别解锁一个电话或一个自主车辆导航系统,机器人技术,增强现实应用程序,他们使用本地,本地部署人工智能模型来提高用户操作的响应时间。想象一下,在没有本地AI模型的情况下,推理或预测将不得不基于远程服务器;体验将完全相反。AI在通过利用基于优势的AI向用户提供更好的体验方面扮演着关键角色。

基于边缘的AI在远程位置发挥着重要作用,在远程位置,网络连接可能不是连续的,响应时间应该在几秒内,网络延迟不能提供,并且给定环境中需要用户特定数据的超上下文化。

基于边缘的人工智能是可行的,因为边缘处理专业嵌入式芯片硬件和软件,如谷歌张量处理单元,现场可编程门阵列和GPU的显著改进。

在边缘,通常会发生两件事,一件是推理或预测,另一件是训练或学习。为了进行推断或预测,可以使用轻量级模型进行预测。具有训练能力的模型可以使用基于本地上下文的学习,在适当的时候可以与中心模型同步。同步可以通过共享模型参数、权重、特性等来实现,而不需要共享实际数据,从而实现管理数据隐私.一旦中心模型通过来自不同远程基于边缘的AI模型的几个这样的更新建立起来,它就可以更新它的训练,并与所有基于边缘的设备或客户端共享更新的模型footprint,从而确保每个人都能从中心学习能力中受益。这种分布式学习的过程称为联邦学习,本质上它是作为一种策略来使用的,在这种情况下,共享数据面临数据隐私、可共享性、网络传输限制等挑战,但同时需要利用通过中央容量提供的抽象学习的好处。

TensorFlow Lite提供了完整的工具箱来转换TensorFlow模型到TensorFlow Lite,它可以在边缘设备上运行。它们也可以兼容,以获得中央处理器和GPU加速设备的好处。MobileNet模型通过调整网络架构模式(如深度可分离卷积、宽度乘法器的超参数优化和分辨率乘法器),使几种最先进的CNN模型适应于设备模型。

印孚瑟斯与一家大型欧洲汽车制造商合作,利用边缘计算技术,通过“物联网”网关,识别和预测棕色地带环境下主轴机的故障。这有助于建立一个具有成本效益的解决方案,以处理来自主轴机的大数据馈送。

一家大型全球矿业公司使用可穿戴设备对移动矿工的源数据进行安全监控,并将其传送到云端进行近乎实时的处理。

对于全球大型制造商来说,发动机的优化保养、维修和大修是车间车间的驱动贯穿始终的边缘计算,它提供用于调度操作的机器的可用性和可预测性。

订阅

要了解最新的技术和行业趋势,请订阅印孚瑟斯知识研究所的出版物亚搏电脑登录

印孚瑟斯TechCompass