面对即将到来的5G及IoT时代,不少人的关注焦点一直摆在如何透过云端的高速运算,来建立起足够强大的AI系统,然而市场也发现,真的要达到智慧化的生活,光靠云端是完全不够的,不仅可能会有反应速度不够快、云端运算负担太重等问题,信息频繁透过远程传输,更有可能萌生出大量资安问题。因此,终端装置的边缘运算开始成为大家积极研究的领域。
很多智能应用都必须靠建立AI模型来实现。然而,很多时候我们不能过度仰赖云端,因此让装置本身具备机器学习及运算的能力,就成为新的市场需求。更重要的是要让边缘到云端运算之间能够紧密连结并分工合作,创造出最有效率的AI运作模式。
若是终端装置本身就具备推理学习的功能,装置能够辨识或是侦测分析环境中的各项参数,并直接在装置端建立起属于自己的预警模型,整个过程中甚至没有云端的介入,这样能让系统本身具备更快的反应能力,并且保持数据的隐私性。
不过,还是有一些特殊状况会需要边缘与云端的相互配合,比方说面临自然灾害等大范围的突发状况时,系统可能会有多个参数同时异常,在这样的状况下,装置终端就会将数据回传到云端,云端再透过多个不同装置回传的数据快速判断可能的状况并下达反应指令。
这样的运作概念不仅可以用在异常侦测,在智慧城市中也有非常大的发挥空间,以无人机影像识别系统为例:过去系统的概念是,在摄像头旁边也就是在无人机上放置影像识别模块如TX2,初步辨识的数据回传到云端或边缘云,运算完成后再将信息回传到控制中心上,过程相当复杂。
在攸泰领先业界的Ruggon PX-501 (8代i5 8250u / i7 8650u)与Intel openVINO合作的案例中,透过最先进的架构使AI推论具备功耗极低但是延迟很少的效能,整个解决方案都运行在手持平板上,就能不透过读显甚至也不用AI 加速卡,直接做影像辨识,这样的运作模式的优点就与前述一样,在时效性、运作效能及资安上都能有更好的表现。对无人载具上锱铢必较的电力节能更具直接效益.
三防加固型平板与车载计算机厂商攸泰科技大中华区业务总经理林海光认为,这种一般辨识由Edge终端快速解决,而需要大数据的由云端解决的配合模式,将成为接下来人工智能产业应用的发展趋势,而外界也认为,这个趋势将会让AI 硬件业者与软件算法之间,出现越来越频繁的直接合作关系。AI 加速卡与新世代的CPU/GPU 优化进步程度已经成熟到可以落地. 2019 的8代Core i + openVINO, 2010 的M.2 2242 Intel Movidius Myraid X 与Google TPU 都不失为好方案, 与Jenson TX2/Nano 这类GPU导向的有所区别。
更多技术探讨可以发送邮件至ryan_lin@ubiqconn.com,或拔打400-690-2151,我们竭诚为您服务。
