随着人工智能(AI)技术的快速发展和逐步落地,已经给众多行业带来了巨大变革。其中,人工智能对于安防领域的所带来的变革尤为突出。2017年10月29日,在2017中国国际社会公共安全产品博览会期间,英特尔在深圳大中华喜来登酒店召开了主题为“让人工智能改变安防”的智能安防高峰论坛,并携手安防行业合作伙伴,共同探讨了人工智能对安防行业的变革,展示了行业先进的人工智能安防产品和解决方案。
物联网时代加速人工智能在边缘计算中的应用
我们都知道,目前人工智能的很多运算处理都是发生在服务器、数据中心这样的云端,因为只有在这样的一个环境里面才能提供强大计算力和便利的支撑。但是,随着物联网时代的到来,将会有越来越多的设备和传感器接入网络,情况将会发生改变。
根据IDC预测,到2020年全球会有超过500亿的智能设备,超过2120亿个传感器。这也意味着每天都将会产生海量的数据。如果仍然只是依靠云端来做数据处理的化,那么将会有海量的数据需要传输到云端做处理,这对于云端的计算力和网络带宽都带来了极大的挑战。虽然计算力和通信技术也在不断发展,但是这个速度还是难以赶上数据增长的速度。所以,边缘计算,即数据在终端侧进行人工智能分析和处理成为了一个新的趋势。
IDC预测,到2018年将有40%的物联网数据需要在边缘进行存储处理和分析(足见物联网对于在终端侧部署人工智能需求的增长之快),有50%的物联网的网络会面临带宽的问题。正是由于物联网所带来的海量数据的增长以及对于带宽的极大挑战,在终端侧部署人工智能已经变得非常必要。
而且,在终端侧部署人工智能,还有着数据处理的实时性更高、低延时,更低的带宽需求的优势。比如无人驾驶,如果在汽车安装摄像头,如果车的前方出现一个行人,摄像头采集图象,然后对图象进行相应的压缩,压缩以后通过网络传到数据中心,进行拍摄的操作,做出相应的判断,大家把判断的结果通过网络再传到车辆,再采取相应的制动操作,如果按照这样的方式,当汽车收到制动指令之前,事故可能已经发生。所以对于这种类似的对时序性要求比较高的应用,必须在边缘对数据进行人工智能的处理。
另外,在终端侧部署人工智能也有利于数据隐私的保护。因为很多用户是不希望把数据上传到云端的,希望这些数据在本地进行处理,本地处理完以后,上传的是一些是经过处理完以后的特殊的数据,对隐私保护相对比较高的场景,需要数据也在边缘进行处理。
英特尔物联网首席技术官张宇表示:“我们认为人工智能系统一定是一个端到端的系统,边缘计算在当中会发生非常重要的作用。我们看到了边缘计算在未来的发展趋势,英特尔公司和我们的合作伙伴,在去年的11月份在国内成立的边缘计算产业联盟,我们希望在这样的联盟的范畴内,合作伙伴一起探讨边缘计算的参考架构以及一些工程和实践以及人工智能今后的发展,为国家智能制造2025年提供相应的参考方案。”
人工智能快速落地安防市场
虽然现在各行各业都在导入人工智能,不少手机厂商也纷纷推出了具有一定人工智能功能的智能手机。但是,相对于普通消费类终端市场来说,安防市场的人工智能落地却要更快一步。
因为,普通消费类终端用户其实目前并不清楚人工智能到底能做什么(可能只知道能做人脸识别),到底能够给用户体验带来什么样的提升,而厂商也不了解用户对于人工智能的真实需求,所以人工智能在消费类终端侧的应用,还需要厂商与消费者一起来共同探讨,从而解决用户实际使用的问题。
而对于安防市场来说,用户的痛点是非常明确的,用户非常清楚自己需要的是什么,比如通过摄像头来更好的进行车辆信息检测、人员检测、行为分析等等,而这时人工智能能够极大的帮助用户去解决其实际需求,这也使得人工智能能够更快的在安防市场落地。
此前在安防市场,人工智能主要也是被应用在云端,对于摄像头的传输到云端的数据进行分析和处理。不过随着用户需求以及市场的迅速增长,海量的摄像头带来海量的数据,这不仅对于云端的人工智能计算,也对于网络带宽带来了极大的压力。
根据研究机构的数据显示,2017年(应该特指中国)安防视频数据已经达到了859PB,到2020年IP摄像头数据量将达1亿部,75%是摄像头将会通过网络连接。显然,随着这些联网的摄像头数量的增长,每天所产生的视频流数据也将会呈现爆炸式增长。相对于其他物联网设备来说,网络摄像头所产生的数据更为庞大,原有的单纯云端数据处理方式已经难以满足需求,再加上安防市场的特殊性,这也使得这个市场对于终端侧的人工智能计算需求更为迫切。所以,人工智能率先在安防市场快速落地。
英特尔物联网首席技术官张宇表示:“随着视频技术在安防等领域的广泛使用,在摄像头端的视频处理将成为人工智能的一大应用。”
英特尔DSS(Digital Security Surveillance)业务总经理Adam Burns表示,人工智能在安防领域的应用,无论是准确性和灵活度都有非常大的提高。在多面孔识别的应用中,人工智能应用已经达到了更高的准确性和灵活性。
在人工智能在安防领域快速落地的过程中,中国厂商起了很大的推动作用。英特尔公司物联网事业部全球数字安全监控市场总监 Todd Matsler告诉芯智讯:“这已经是我第四年参加安防展了,每一年我在跟客户讨论的时候,都会因为中国市场的发展和技术的推陈出新而感到震惊。我们和中国客户交流的时候也常常会说,中国的OEM在把人工智能技术应用到安防领域上做出了长足的贡献。”
Adam Burns也表示:“在美国和中国从2012年到2015年,与人工智能相关的论文发布数都有了长足的增长,另外跨行业的研究也与日俱增。为什么英特尔最近在产品研发和客户关系上都十分重视中国?因为我们知道中美两国将会是在人工智能方面引领趋势的重要市场。”
安防领域的AI技术趋势
除了人工智能在终端侧的部署在安防市场的加速推进之外,对于深度学习和人工智能在安防领域的应用,张宇博士认为还将会呈现出三大趋势:1、增强学习正快速应用到安防领域; 2.通过网络压缩来解决计算冗余的问题; 3.未来AI算法将会相对固化,专用的AI芯片和服务器将得到广泛应用。
“深度学习和人工智能是未来的计算浪潮,是已经在改变各行各业的竞争优势的日益重要的来源。现在正是把深度学习和人工智能集成到产品、服务和业务流程中的好时机。英特尔在安防领域深耕已久,正在将全面的深度学习和人工智能的产品组合、世界级芯片以及成功地推动之前的重大计算转型的丰富经验引入到安防领域,推动安防领域的升级和发展。”张宇博士表示。
从边缘计算的角度来看,首先能够提供的计算力是有限的,另外能提供的功耗也是有限的,因而无法无限制的扩大计算能力,所以一定要有一个最优方法。专用芯片就是一个解决方式。目前的人工神经网络中,将近60%以上的计算是消耗在卷积运算中,通过提升这些专用硬件的方式可以提高整个系统的计算能力。此外,这种专用芯片架构功耗也是比较低的。这也是为什么谷歌要采用TPU这样的方式来处理AI应用。
对于未来人工智能算法是否都会芯片化的问题,Adam Burns也表示:“不同的算法在不同的架构之中可能会有一些不同的表现。我们也看到了许多的算法,比如说这些识别算法和分类的算法在许多开源的或者专有的CPU、GPU、专用神经网络或者FPGA上都能做的很好的。但是我们也看到实际上随着架构的迭代,它们可能会有一些越来越专用的任务,但是有一些比较常见的任务,可能就是现在的安全或者其他的要求,现在有许多的功能已经固化或者内嵌到了一些芯片之中,我们现在也看到在人工智能方面,现在这个趋势。未来一些运算量比较大的,比较具有普世性的一些功能,可能会内嵌在这个芯片之中,如果你要对硬件进行编程的话,可以使用像FPGA这样可编程的一些处理器进行编程,但是另外也会有一些比较专门的要求是需要在其他的平台上面进行运作的。”
完整的从端到端的人工智能解决方案
虽然现在边缘计算以及在终端侧部署人工智能已经是大势所趋,但是这并不意味着云端人工智能就不需要了、就会走向消亡。云端人工智能它能够把数据源进行汇总,它能够做一些更综合的应用。张宇博士举了一个比较形象的例子:比如我们要查找一辆车的轨迹,道路上车的运行信息首先是被摄像头捕捉到的,但是摄像头捕捉的范围是有限的,我们只能观察一个路口或者一个区域,我们只能知道这辆车在这个区域在什么时候出现,但是我们并不知道这辆车以后去哪了,或者它之前从哪来,这些信息只有在云端,云端能跟很多不同的摄像头相连,通过这些独立摄像头提供的云端所需的精准的信息,才能够形成一个更全景的图。所以我们看到,如果要给用户提供一个完整的人工智能服务和解决方案,一定是一种边缘与云端协同的端到端的人工智能解决方案。
“我们英特尔认为,人工智能系统会是一个端到端的系统,在这个系统里面会包含不同的网元,从前端的采集、前端的处理,到网络,到后端的分析,每个阶段对计算和存储的要求也不尽相同,而且它所能够提供的能力也是不同的。比如在前端,我们现在通过专用的Movidius处理器给IP Camera提供了人工智能的服务,因为IP Camear对于功耗的要求更加苛刻。到了后端的数据中心,英特尔提供的选择更多,在深度学习方面我们提供的是英特尔的至强、志强融合,在今年年底的时候我们会发布Nervana最新一代人工智能处理器的产品,在推理计算我们也有很多的用英特尔的至强加上FPGA的方式进行加速。因此,不用的网元需要有不同的硬件、软件解决方案来进行支撑。”张宇博士表示:“在这方面英特尔所提供的解决方案是非常灵活多样的,能够根据用户的需求提供他最适宜的解决方案。”
云端计算平台:Xeon/Purley/Nervana/FPGA
众所周知,目前在服务器及数据中心市场,英特尔是绝对的老大。目前在运行人工智能运算数据中心服务器中,英特尔的占有率达97%,提供最具弹性且性能最佳化的系列解决方案。这些解决方案中包括Xeon处理器与Xeon Phi处理器,以及能支持各种对特定运行负载进行最佳化的加速器,包括现场可编程化逻辑闸阵列(field-programmable gate arrays,FPGA),以及从Nervana所得到的各种技术创新。
今年7月,英特尔还发布了代号为Purley的新一代服务器平台,为现在持续演进的数据中心与网路基础架构所量身设计,提供业界最高的能源效益与系统层级效能,效能比上一代平均高出1.65倍。在人工智能不断增加的工作负载下,Purley平台可提供比上一代高出2.2倍的效能。
可能大家觉得CPU并不适合用来做人工智能运算,英特尔似乎也意识到了这一点,去年英特尔以4亿美元的天价收购了机器学习初创公司Nervana。经过一年多的整合之后,英特尔将会在今年年底推出一款专为深度学习而打造的神经网络处理器Nervana(NNP)。英特尔称利用Nervana处理器可以帮助不同行业发挥最大的性能,找到自身最大价值。
据了解,Nervana处理器摒弃了原来的标准的缓存结构,而是利用软件实现内存管理,这样能够最大的发挥出其性能。同时,还设计有高速片外互联通道,可以让Nervana处理器实现高速的双向数据传输,多个处理器甚至可以组成一个更加庞大的神经网络系统,可以实现更大的计算量,帮助客户快速获取有用数据。此外,Nervana处理器还采用了英特尔针对还专为人工智能设计的Flexpoint运算可以实现标量的点乘和加法,而且这种计算单元可以节省下不少的电路晶体管,因此可以提升处理器的密度,并且减少功耗。
英特尔表示,Nervana处理器并非只有一款,多代处理器正在打造当中,在未来这些产品有助于在2020年实现深度计算数百倍的性能提升。而第一个合作方就是Facebook,双方将会深入合作应用。
另外对于人工智能运算来说,近年来FPGA备受追捧。相较于目前广泛被用于人工智能计算的GPU技术来说,FPGA具有更低的延迟,功耗更低,同时更具灵活性。比如FPGA可以根据特定的应用去编程硬件,而GPU一旦设计完就不能改动了,所以不能根据应用去调整硬件资源。此外,从算法的层面来看,人工智能含有许多智能决策的部分,因此需要有很强的平行运算能力。这些算法进而对处理器结构产生了不同的需求,像是在神经网络中,卷积运算强调的是平行运算,适合在FPGA上运行,但在传感器融合的部分,则比较适合在CPU上运行,因其必须将硬件进行分割,再将不同的算法,放到处理器中。所以,FPGA CPU这种异构架构成为了一种趋势,特别适合一些需要智能视觉分析、与云端大数据结合的智能终端。
从英特尔对这些产品定位来看,Xeon Phi Nervana将用于云端最顶层的高性能计算,而Xeon FPGA将用于云端中间层/前端设备的低功耗性能计算。
推理系统:Saffron
2015年10月,英特收购了由前IBM知识管理和智能代理中心首席科学家Manuel Aparicio在1999年创立的人工智能公司Saffron Technology。Saffron的技术主要是通过模仿人类大脑工作方式的算法来从庞大的数据集里提取有用的信息。但和其他人工智能技术不同的是,该公司专注于研发自家的“联想记忆”技术,而非像谷歌和Facebook等重度投资的深度学习类人工智能。Saffron技术平台运用记忆式推理技巧,以及对异质资料进行透明化分析。
今年,英特尔还发布首款基于Saffron技术的软件产品——一款人工智能防洗钱工具,据称这是市场首次在金融服务行业中使用关联记忆人工智能。这款名为“英特尔Saffron反洗钱(简称AML) 顾问”运行在Xeon至强处理器之上。
英特尔表示,Saffron是一套人工智能“分析平台”,其能够面向广泛的应用场景进行定制,比如供应链、银行以及保险等领域的企业。
终端计算机视觉方案:Realsense/Movidius
早在2014年,英特尔就推出了Realsense 3D实感技术,其模组主要由1个色彩传感器、1个红外线传感器和1个红外激光发射器,此外还有1个实感图像处理芯片组成。RealSense 3D可以实现深度感知、3D成像/建模、内部映射以及运动跟踪。此前已经被应用于笔记本电脑、平板电脑以及一些智能硬件当中。英特尔主要向合作伙伴提供RealSense 3D模块,使得合作伙伴可以非常容易的实现3D视觉能力。
去年9月,英特尔收购了计算机视觉芯片公司Movidius,开始加码终端侧的人工智能布局。Movidius 在计算机视觉方面有很强的技术积累,这家从 2006 年就成立的视觉计算芯片公司花费了9年的时间开发出了低价低功耗高性能的视觉处理器芯片——Myriad 系列 VPU(Vision Processing Unit)。目前其Myriad 系列 VPU也被众多的厂商广泛应用。比如大疆的Spark无人机,谷歌刚发布不久的Clips相机都采用了Myriad 2系列 VPU。
今年7月,英特尔推出了Movidius神经计算棒,这是世界上首个基于USB模式的深度学习推理工具和独立的AI加速器。其可以直接部署到安防监控摄像头端,实时的对于视频流进行人工智能计算加速。英特尔表示,外形小巧的Movidius神经计算棒可为广泛的边缘主机设备提供专用深度神经网络处理功能力,从而减少开发、调优和部署人工智能应用的障碍。
在此次的英特尔智能安防高峰论坛上,包括大华、海康威视等在内的众多英特尔的合作伙伴,都展示了采用了Movidius神经计算棒实现边缘人工智能计算的智能安防解决方案。
工具与标准
除了硬件之外,英特尔在整套人工智能产品组合中还提供了标准统一的软件优化和编程工具以及智能API,如在所有英特尔硬件架构中都可以使用到的数学函数库以及数个深度学习框架,来自Nervana的Neon、和谷歌合作的Tensor Flow以及Theano、Caffe、Torch,同时还发布了深度学习SDK。这些SDK适用于数据中心的科学家,同时也可以给应用开发者在终端使用。
人工智能生态建设
在此基础上,英特尔还成立了一个人工智能咨询委员会,成员均为AI领域的专家,包括来自加州伯克利大学理论神经系统BrunoOlshausen教授以及来研究神经网络架构的Jan Rabaey教授,来自斯坦福大学致力于研究超级计算机的Ron Dror教授。
此外,英特尔还成立了Nervana人工智能学院,拥有研究人工智能的英特尔开发人员专区和面向大学生的英特人校园开发人员计划,致力于为下一代提供研究人工智能的资源。同时,英特尔还与包括谷歌在内的业界知名企业组成了人工智能联盟,希望帮助企业IT部门根据业务需求构建开放、灵活、安全的多种云基础设施。
去年11月份,英特尔还与华为、沈阳自动化研究所、中国信息通信研究院、ARM、软通动力等六家单位共同发起了边缘计算产业联盟(简称ECC联盟)。到今天成员单位已经将近120家。这个联盟的宗旨致力于边缘计算的参考,打通边缘与云端的互联,为2025在人工智能领域的落地提供力量。
10月20日,英特尔公司的全球战略投资和收购部门宣布向15家科技创业公司进行总额超过6000万美元的新一批投资。新一批的投资使得英特尔投资2017年的投资总额超过了5.66亿美元。获得投资的这15家公司主要聚焦于人工智能、3D医学可视化、零售机器人,以及受人类免疫系统启发的网络安全技术等方面。其中来自中国的地平线公司更是全球嵌入式人工智能行业的领军企业。据介绍,地平线将借助Intel在CPU、FPGA、5G领域的经验和资源,加快嵌入式AI硬件架构的研发。
端到端的解决方案
通过此次携手安防领域生态系统合作伙伴,英特尔完成从前端到后端的人工智能解决方案全面部署。其中,英特尔Purley平台打造未来服务器类标杆产品,英特尔Movidius产品与前端、传输、机器视觉等事业部门全面合作,加强深度学习技术的探索与合作,打造端到端的人工智能平台。而Nervana系列产品在深度学习训练平台已经取得实质性成果,结合Xeon至强/Xeon Phi至强融合、FPGA 和前端广泛应用的Movidius灵活部署方案。英特尔通过提供端到端的人工智能解决方案,从硬件、库和语言、框架、工具到应用方案,包括处理器、存储和互联技术等,通过一系列的底层软件库以及机器学习算法的创新,驱动人工智能的创新与变革,为安防行业提供快速、精确和可扩展的高能效解决方案。
“在英特尔看来,人工智能是一个端到端的系统,需要多重的能力,需要的不仅仅是计算能力,还需要通讯能力。需要的不仅是硬件,同时需要软件,提供从硬件到软件,从前端到后端的完整组合,包括通用处理器,也有专门的从事人工智能的芯片。用户可以根据自身要求选择。在存储方面,我们把SSD的存储速度提高十倍,在通讯方面,英特尔积极参与各种通讯标准的制定,从物联网的制定到宽带领域4G,英特尔是技术和产品的积极推动者。对于开发人员,在开放的环境中实现自己人工智能的想法。”张宇博士总结道。
Adam Burns也表示:“英特尔已经在物联网的计算领域深耕超过30年,我们的人工智能技术除了应用到工业机器人、机器视觉还拓展到了医学影像,能够提高医学影像的精度;拓展到了零售业,帮助零售业防盗以及提高绩效。随着人工智能技术的发展,英特尔一定也会在视频安防领域大有所为。”
作者:芯智讯-浪客剑