这次微软又联合英特尔开发了一款自家的硬件加速平台 Project Brainwave,目标是带来高速、实时的云端 AI。
智能边缘解决方案结合了坚固的FPGA架构和微软的深度神经网络。
微软预测到2020年,300亿台智能设备将进入家庭和企业。它们将一起产生如此多的数据,以至于将所有数据直接上传到云端进行处理是不实际的,尤其是如果这些设备做诸如理解语音或识别图像中的物体等事情时。这些工作必须由AI边缘来进行。
“接下来十年时间中,数十亿台日常设备将被连接起来;那些能够看、听、找出原因、预测以及进行更多事情的智能设备——而不用每时每刻都依靠云。”微软通讯副总裁Frank Shaw在一次采访中告诉Data Center Knowledge。微软的“智能边缘”概念是“计算机和真实世界之间的一个接口。”
他表示,每个人每天将生成大约1.5 Gb的数据,而一个智能家居助手每天将生成多达50 Gb的数据。这大概是1小时4 K视频的数据量。而一个智能建筑每天将生成150 Gb的数据,一个连接体育场每天将生成200兆字节的数据,一个连接工厂每天将生成一个拍子节的数据,一个智能城市每天将生成250拍子节的数据。
IDC预测,到2019年,这一由物联网创造的数据洪流中,有45%将会得到处理,并在或靠近网络边缘的位置执行。其中的一些将在诸如微软的Azure Stack那样的超融合基础设施上处理。微软Cloud + AI集团执行副总裁Scott Guthrie告诉我们,相比将计算放在私有云中进行,基于云服务的本地边缘计算使用的更多。
“人们真的意识到了利用边缘计算资源来做更多事情的重要性,”他表示,“如果你有一个无人机正在对桥梁进行视觉检查,寻找裂缝,那么该无人机所生成的视频总量将是十分巨大的,因而如果使用3G、4G或5G来上传它们,带宽将是十分密集的。能够拥有一个Azure Stack实例——在那里工程师能够处理视频,在边缘上进行AI计算——将对解决方案是否有效起着至关重要的作用。”
智能边缘
微软杰出的工程师Doug Burger近来告诉我们,能够在Azure内加速机器学习的FPGA平台Project Brainwave,即将成为一个边缘解决方案,驱动他称之为的“实时AI”。它现在可以作为服务使用了,而该服务开发人员可以用来在云端进行深度学习——Project Brainwave被称为Azure 机器学习硬件加速模型(最初支持ResNet深度神经网络)。
本月初,微软在其Build大会上正式推出了Braiwave。它将作为一个配备有由微软设计的FPGA板的服务器,而该FPGA板能够在本地进行部署——对降低延迟和处理敏感数据都是很理想的,Guthrie解释到。
该硬件将成为一个坚固的服务器,最初来自惠普或戴尔。Brainwave系统将包括Azure IoT Edge服务,以便管理升级到Azure机器学习模型的事宜,“保持云间的对称性,而在云中,该模型可能已经被训练过,在边缘上也是。”
与Project Brainwave FPGA图像一起,用户将能够从Azure ML仓库中下载一个神经神经网络,并将它运行在本地英特尔FPGA上。一旦模型加载完成,边缘设备就不需要连接。“只有在更新模型时,才会要求网络连接性;这意味着如果你不想更新模型,边缘设备就可以永远断开运行。”Guthrie说到。
Brainwave服务器现在还处于部分预览中,微软并未宣布该解决方案将花费多少,或它将收取多少费用(预付款或基于消费的付款)。除了Azure Stack之外,Brainwave还将用于100 TB的Azure Data Box数据传输设备,用来从物理上将数据传输到Azure。
自动化厂房
边缘智能的一个使用案例是工业自动化。比如,它可以减少图像识别系统的延迟,而该系统能够自动检查制造部件的质量。
不依靠网络连接性也能使系统更加可靠。每一个额外的网络连接都是一个潜在的故障点。
在一个依赖网络的系统中,“如果网络连接出现故障,这一价值几百万美元的装配线就会停止运行,”Guthrie说到。在企业决定采用不同云技术的过程中,能否维持装配线正常运行将使一切变得大不相同。
厂房系统可以由Azure Stack驱动。智能也可以嵌入到物联网设备本身。微软的Azure IoT Edge平台能够在后端将一切关联起来,并使用Docker容器来在云端和边缘运行相同的机器学习模型。
智能边缘构建工具
Guthrie表示,Custom Vision是第一个在Azure IoT Edge平台上运行的Azure认知服务,在接下来几个月内将会有更多新的突破。Custom Vision能够为无人机或流水线相机识别裂缝等工作提供图像识别。微软正在与商业无人机供应商DJI和高通进行合作,以帮助开发人员构建这些系统。
如果你需要更多标准的视频,Project Kinect for Azure是一组传感器套件,包括来自命途多舛的Xbox Kinect中的3D照相机、HoloLens硬件,以及用以在你所构建的设备上运行机器学习模型的机载计算。
Kinect系统可以使用手势跟踪来控制手势,或监控和协助技术人员操作物理部件。它也可以用于空间映射。(比如Thyssenkrupp就使用HoloLens硬件来生成楼梯的3D模型,以便安装自定义楼梯升降机。)Project Kinect将于明年上市。
此外,还有一个新的语音设备SDK,能够将语音识别嵌入到餐厅或机场自助终端中的免下车订购系统。
能够将同样的研发成果从云端扩展到边缘,再进一步扩展到终端设备本身,就是这一能力将硬件、工具和服务联合了起来。Guthrie说到:“它是在物联网设备上、在你所构建的Azure Stack上、以及在Azure公有云上拥有相同编程模型的灵活性。”