7月27日，英特尔在南京正式召开了主题为“芯速度 耀未来”的“2023英特尔网络与边缘产业高层峰会”，吸引了300余家生态伙伴与客户齐聚一堂，与英特尔共同展示了在网络与边缘领域加速算网融合、推进数智转型的精彩成果。多位英特尔网络与边缘事业部的高管介绍了英特尔在网络与边缘领域的全球及中国战略、产品进展及生态建设情况，并重申了中国市场在英特尔网络与边缘业务发展中的重要地位。这些高管还与多位中国的合作伙伴一起，分享了英特尔在教育、工业、智慧社区、金融、交通、5G、零售、医疗、会议协作等领域与中国合作伙伴共同取得的数字化、智能化建设成就。

20230年边缘计算市场规模将达4450亿美元，边缘AI市场规模达650亿美元

近年来，随着半导体技术、人工智能（AI）以及物联网技术的发展，人工智能运算由原来的主要集中于云端计算，开始持续转向边缘计算。相对于云端计算来说，边缘计算在实时性（低延时）、网络带宽的高效利用、隐私数据保护、节能及成本等方面都更具优势。比如，人工智能的计算如果放在离它最近的地方，这样就不需要将全部数据都传输到云端处理，然后等待云端处理完成后再回传到边缘侧，这样不但可以极大的降低延时、保护隐私数据，同时也能够高效的利用网络资源，降低通信网络的负载，降低能耗和成本。此外，对于企业本身的业务来说，智能边缘计算也能进一步助力企业提升生产和管理效率，实现降本增效。

虽然目前困扰全球的新冠疫情已经结束，但是由于受到地缘政治、供应链本地化、劳动力/人才短缺、能源成本上升、通货膨胀和经济衰退等诸多不利因素的影响，企业为了提高竞争力并降低总成本，也正通过在边缘侧采用人工智能处理数据的形式，来加速对其业务进行数字化和智能化转型。这也为边缘计算产业带来巨大的市场机会。

根据市场研究机构IDC的《全球边缘计算支出报告》指出，到2022年，全球在边缘计算上的支出预计将达到1760亿美元，比2021 年成长14.8%。企业和服务提供商在边缘解决方案的硬件、软件和服务上的支出预计将在2025 年保持此成长速度，届时支出将达到近2740亿美元。

英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在会议上也表示：“放眼全球市场，边缘计算机遇无限，预计到2030年将蕴含着高达4450亿美元的市场机会，其中480亿美元来自于边缘应用交付网络、350亿美元来自驾驶员辅助系统、340亿美元来自住院监测、350亿美元来自AR/VR培训、20亿美元来自预防性维护。这些都是来自于企业需求的推动，要在边缘推动效率的的提升。我们相信边缘计算的发展也将会成为下一个10年的巨大机遇。”

△英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti

而在整个边缘计算市场，人工智能相关的计算占比也越来越大！英特尔公布的一组研究机构的预测数据则显示，到2025年，75%由企业生成的数据将在传统数据中心或云之外进行创建和处理；到2026年，50%的边缘部署将涉及机器学习；86%的边缘开发人员将瞄准基于人工智能的应用程序；边缘的人工智能推理将是数据中心的3倍。

“ 实际上，边缘已经是现在人工智能最大的部署所在。比如智能教育、视频会议、制造业、智慧城市、智慧医疗等等，众多的产业都在使用人工智能来解决这些根本性的挑战，所以现在AI的发展非常非常快。”Sachin Katti表示：“预计到2030年，边缘AI市场规模将达到650亿美元，未来我们在边缘会越来越多地利用到人工智能的应用。”

助力边缘产业升级，英特尔拥有广泛的产品与解决方案

尽管边缘人工智能可通过本地数据处理，帮助企业实现业务转型，但目前企业在部署边缘人工智能时，仍面临基础设施条件不足、数据孤岛及远程运营等问题所带来的诸多挑战。

比如，在基础设施方面，大部分工厂的设备都是比较陈旧的。如何把人工智能的大型模型部署到这些陈旧的设备上？这是需要非常大的计算能力；在数据方面，每个客户的数据可能都是很独特的，像工厂的数据和医疗的数据就是完全不一样的，如何抓取这些孤立的数据，如何利用这些数据，以及如何进行AI部署？如何进行更新迭代？这都是非常大的挑战，很多客户都因为这些挑战而止步不前。

那么如何成功的部署边缘AI呢？Sachin Katti认为，不同的产业有不同的要求，比如性能、功耗、空间、环境、成本等要求，所以需要提供能够最广泛的满足这些要求的产品组合，包括从硅芯片层到应用层，从云端到网络到边缘端。同时，还需要提供专注于基础设施的软件套件、边缘AI与应用软件套件，帮助客户更好地进行AI部署和管理，并提高安全性。最后，对于终端用户来说，还要有一系列集成性的解决方案来解决他们的问题。

具体来说，英特尔经过多年的发展，推出一系列从云网络到移动和电信网络、从托管边缘到网络边缘再到本地边缘的软件定义的、可编程软硬件产品组合，已经建立起了“端边云”协同的全栈式软硬件解决方案。

在边缘处理器方面，得益于英特尔原本在传统的嵌入式CPU市场就拥有着很高的市场份额，其Core（酷睿）、Atom（凌动）系列CPU目前也被广泛的应用于物联网市场，随着产品的持续迭代，性能也在不断提升，足以承担一定的人工智能计算。

比如，英特尔新推出的第13代酷睿处理器系列具备更多内核、更快内存，及时间协调计算(TCC)和时间敏感网络(TSN)功能，可以适用于机器人和沉浸式视频墙等实时计算密集型边缘用例；英特尔凌动x7000E系列、英特尔®酷睿™i3处理器和英特尔®处理器N系列可为边缘本机应用程序提供更节能的性能，适用于零售标牌、自助服务终端、销售点系统、便携式医疗成像设备及办公自动化设备等用例。

此外，针对边缘AI加速，英特尔早在2017年就推出了基于Myriad 2系列 VPU的第一代Movidius神经计算棒，此后又持续推了迭代产品，成为英特尔在边缘人工智能加速领域的一款重要产品。

在面向云端的AI计算方面，英特尔也拥有着较高的市场份额，其不仅拥有至强可扩展系列处理器及几年前收购的Altara FPGA，同时针对云端的人工智能专用处理器。

比如，英特尔去年推出的第四代英特尔至强可扩展处理器也针对高性能、低时延网络和边缘工作负载进行了优化。集成vRAN Boost的第四代英特尔至强可扩展处理器，集成了网络加速功能，与上一代相比，能够在不增加功耗的情况下提供两倍容量，并额外节省高达20%的能耗，从而满足关键的性能、扩展和能效要求。在AI能力方面，与前一代相比，第四代至强通过内置英特尔高级矩阵扩展（英特尔AMX）加速器，将PyTorch实时推理和训练性能提升了10倍，将广泛的AI工作负载的推理和训练性能提升到新的高度。

今年7月，英特尔还在中国市场推出了面向云端的第二代Gaudi深度学习加速器——Habana Gaudi 2。作为英特尔从云到端产品组合的重要组成，Gaudi2致力于以领先的性价比优势，加速AI训练及推理，为用户提供更高的深度学习性能和效率，从而成为大规模部署AI的更优解。

在网络加速领域，在此次峰会上，英特尔还发布了第二代英特尔NetSec加速卡参考设计。这款全新加速卡基于英特尔至强D系列处理器而打造，创新性地将一台x86服务器设计成智能网卡形态，可大幅减少系统的空间占用和功耗。基于英特尔NetSec 加速卡参考设计实现的首款产品将由合作伙伴量产上市，在最大程度满足软件定义、自动化和弹性扩展的同时，让客户享受到更安全、更可靠、更灵活及更高效的智能计算体验。

除了硬件之外，英特尔也在持续针对相关软件进行投入。由于从云到端的各种不同的网元所能提供的计算量是不一样的，它能够支撑的操作系统和应用也各不相同的，因此有各自适用的不同的芯片架构。如果要部署人工智能，就需要不同特性硬件平台以及软硬件协同优化。

因此，早在2018年7月，英特尔正式推出了基于英特尔硬件平台的专注于加速深度学习的OpenVINO工具包，以实现对于英特尔多个硬件平台的软硬件协同，帮助企业在边缘侧快速实现高性能计算机视觉与深度学习的开发。对于人工智能部署来说，不同的芯片往往有各自不同的开发方法，这样对开发者而言就带来一定的困扰。比如开发者为某一款芯片所开发的软件，如果换了一个架构以后，它可能是不适用的，这样无形中就增加了开发的门槛和工作量。而英特尔的OpenVINO则可以帮助开发者轻松实现基于英特尔硬件平台的从云端到终端侧的跨平台部署，并发挥出各个硬件平台的能力。今年，英特尔发布了功能更加强大的全新OpenVINO 2023.0版本，该版本提供了面向生成式人工智能的更广泛模型支持，其中就包括对Stable Diffusion的支持。

此外，英特尔还面向5G核心网推出了基础设施电源管理器参考软件，据称可将运行时CPU平均能耗降低30%，这有助于降低总拥有成本，并加速实现净零排放的目标。

英特尔还打造了多款的开源工具，比如DPDK、OpenNESS、Open Visual Cloud、VPP IPsec、Nginx等，助力用户以高性能的方式更快地推动创新。其中，OpenNESS定位于帮助用户对软件做先进的应用开发；Open Visual Cloud主要帮助做视频处理；DPDK则是数据平面开发套件，用于快速数据包处理的函数库与驱动集合，可以极大提高数据处理性能和吞吐量，提高数据平面应用程序的工作效率。

除了在计算芯片和软件工具上的布局之外，英特尔在制程封装、内存/存储、互联、安全、软件技术等方面也有着深厚的积累，基于此，英特尔可以提供“端边云”协同的、业界领先的人工智能全栈解决方案， 可以在传感器、终端、网关、边缘云、云端等重要计算节点进行人工智能的加速运用。

助力千行百业的数智化转型

Sachin Katti称，十多年来，英特尔通过打造创新的全栈式软硬件产品组合，并与合作伙伴携手，极大程度上解决了众多行业所面临的智能化挑战，还建立了一个强大的、广泛的生态系统，在推动现实世界基础设施进行数字化转型方面做出重要贡献。据介绍，英特尔目前已经在全世界完成了超过84000次成功的部署，包括在零售、医疗、工业制造、能源、教育、会议与协作、智慧城市和关键基础设施等众多领域。

比如，在智能制造领域，一些离散制造过程正在融合到软件定义平台上；机器人的感知、控制正在和人工智能、5G技术融合，使其实现与人类协作，以缓解劳动力短缺的现状；机器视觉正在与控制负载相结合，在工厂的装配线上实时识别缺陷。

据英特尔网络与边缘云解决方案事业部总经理Dan Rodrioue介绍，英特尔成都工厂采用了晶圆表面缺陷检测技术，通过自动化的机器视觉系统（基于酷睿处理器、Arc显卡、OpenVINO）来实时检测晶圆划痕、微划痕等，提升了检测的效率和产品的良率。

此外，大族激光全资子公司大族智控长期以来也主要是基于英特尔的方案来研发控制技术和数控系统，为大族激光在内的工业装备制造商提供以数控系统为核心的智能控制解决方案。

大族智控科技有限公司总经理封雨鑫表示，大族智控做控制系统及边缘计算之所以选择英特尔的处理器，而没有选择其他嵌入式处理器，是经过了充分的调研和讨论才决定的。主要原因是：1、英特尔处理器在算力上能够获得明显优势，这对于控制系统的性能来说是至关重要的；2、因为用户通常不会直接在嵌入式系统上进行人机交互，所以最终还是要把嵌入式板卡和PC结合起来，这个时候如果采用其他嵌入式处理器就会让结构变动更复杂，变成了一个异构双处理器或者是多处理器的结构，会使拓扑结构更加复杂，也让成本变得更高。采用英特尔x86处理器，可以把HMI和内核处理全部放在一个处理器上，通过它的负载整合技术来实现。这样的话，相当于除了工控机之外，不需要额外去插卡。这不管是在成本还是稳定性方面，都是一个非常大的优势。3、基于英特尔的处理器，我们可以通过软核的形式来实现数字化通信的接口，这也会比采用嵌入式方式更加方便、快捷。

△大族智控科技有限公司总经理封雨鑫

在医疗领域，英特尔的网络与边缘团队正在帮助医院实施人工智能和5G技术的部署，帮助他们在整个患者诊断和治疗过程中促进数据收集、分析和处理，以及让决策制定可以在边缘和云端都能实现，这有助于改善诊断和治疗的过程。

比如，英特尔和SonoScape合作，通过借助oneAPI、OpenVINO和酷睿处理器，可大幅简化产前超声检查等工作流程，使其超声波扫描性能提升了20倍。这意味着医生将有更多时间专注于额外的、更详细的超声筛查，进而为患者提供更好的诊疗选择。

在通信领域，通信与信息解决方案及服务提供商京信网络也与英特尔有着深度的合作。京信网络系统股份有限公司部门总监区洋告诉芯智讯，英特尔的解决方案可以从硬件上全方位支撑京信网络的产品，在软件上可以让原来只能跑在专网的软件，在x86上有更好的应用。目前，京信网络推出的5G全连接解决方案FLeX5已经规模应用在智慧能源、智慧矿山、智慧工地等行业。基于英特尔通用平台的软件RAN解决方案，京信网络打造了5G方案。同时，边缘计算能力需求的逐步提升，再加上5G基带的容器化，也使得企业在部署时能更加灵活、方便。

△京信网络系统股份有限公司部门总监区洋

对于为什么选择英特尔方案的问题？区洋进一步向芯智讯解释称：“首先，是英特尔的算力可以满足5G通信网络的计算要求。其次，英特尔方案具有较强的云化能力，云化最开始部署的硬件就是在英特尔平台上部署的，所以它有一个天生就很容易云化的能力，可以实现一些软硬件的解耦。我们怎么样把多个网元，就是5G的基站、5G核心网、客户第三方应用通过云化的方式，通过极致紧凑又松耦合的方式部署在一个硬件上。因为行业应用对成本比较敏感，通过这种方式，一个硬件就把多个网元的功能都部署进去了。实际上对客户来说，在工程安装和运维上，也是节省了他们的成本支出。”

在视频云平台领域，智慧视觉产品及方案提供商中维世纪也与英特尔携手，基于英特尔的解决方案打造了支持公有云、私有云部署的视频云平台，能够实现视频存储、视频解码显示等。

中维世纪科技有限公司高级副总裁王正彬对芯智讯表示，“我们专注于视频行业多年，尤其是在视频云平台方面有着比较丰富的经验。视频这一块的数据量非常大，所以不可能全都在云端，大量的视频运算其实是在边缘端完成的，而边缘端数据处理器也是英特尔的强项。所以我们和英特尔在边缘计算和边缘人工智能分析方面有着广泛的合作，包括边缘的一些服务器、一体机，以及边缘计算盒子等，都有广泛的合作。”

△中维世纪科技有限公司高级副总裁王正彬

英特尔公司网络与边缘事业部副总裁兼企业与云网络事业部总经理Bob Ghaffari也分享了英特尔与派拓网络、安恒信息以及OPPO在网络领域的合作。

派拓网络目前已经人工智能和机器学习应用于其防火墙，分析异常并使用推理来预测和保护网络基础设施免受其收集的大型数据集的影响。Bob Ghaffari表示，派拓网络在集成TensorFlow平台时，英特尔深入参与其中。派拓网络听从英特尔的建议使用了最新版本的TensorFlow（其中包含了对英特尔最新至强处理器中的AVX-512和VNNI优化的支持）和英特尔开源软件组件 ONNX。使得派拓网络相比之前在Palo Alto上运行的AI/ML模型，整体有了10倍的性能提升。派拓网络只需要更改 10 行代码即可产生以上性能的变化。

安恒信息的AiLand数据安全平台则使用了英特尔SGX（英特尔软件防护扩展）技术，通过使用Intel SGX创建TEE或可信执行环境，显著减少攻击面；通过在硬件和软件上开发解决方案，保证数据生命周期的安全；在数据安全之外，它还增强了数据流的灵活性，以赋能物联网用例，该解决方案针对广告与营销、消费者数据洞察、联合计算等领域。

OPPO拥有庞大的云数据中心，这些数据中心为客户提供大量的云服务。Bob Ghaffari解释称，OPPO的这些服务通常使用HTTP进行保护，特别是OPPO使用的QUIC，这是一种最初由 Google 开发的更先进的HTTP3 TLS协议。基于英特尔QAT技术，OPPO加速了QUIC加解密负载。英特尔QAT现已集成到了第四代英特尔至强可扩展处理器和至强 D 处理器中。英特尔和 OPPO 合作对 Nginx Web服务器进行改造，通过使用英特尔QAT进行加速，从而提供高度可靠且强大的云服务。

人工智能、大模型的引入，对于边缘计算意味着什么？

5G等网络技术的广泛应用让从中心云、到边缘云、再到终端侧的信息得以无缝传输和协同计算。而大量的数据都是在终端侧产生的，比如手机、PC、机器人、智能汽车、视频监控等等。因此，正如前面所提到的，在数据产生的地方直接进行高效的人工智能计算，即边缘AI已经是大趋势。但这也对于终端硬件带来了一些挑战。

在英特尔网络与边缘事业部中国区行业销售总监谢青山看来，人工智能引入到边缘计算之后，确实会对算力要求有比较大的提升，但是对于边缘侧的产品来说，跟云端需求不一样，并不是算力越大越好。因为场景不一样，所有的需求，包括对算力的需求、对算法的需求都不太一样。包括从软件体系到、硬件形态也都不太一样。需要根据实际场景需要，对于性能、功耗、延时、成本进行综合考量。

“从硬件的角度来看，英特尔有全系列的产品，覆盖高中低端，可以满足用户的不同层级的需求。在软件方面，英特尔从几年前就推出了开放的平台软件架构OpenVINO，它的目标就是希望能够把现有的所有硬件潜能都发挥出来，帮助客户实现人工智能。”谢青山透露：“英特尔即将推出的边缘侧产品里面，也会增加一些支持AI的硬件加速器。”

△英特尔网络与边缘事业部中国区行业销售总监谢青山

对于大模型在教育领域的促进应用，视源股份集团希沃?&MAXHUB董事长邓毅刚表示，将大模型引入教育领域，带来的帮助肯定是比较大的。一方面，它能够针对用户的输入，来帮助制定相关学习计划。另一方面，可以利用大模型比较强的启发性和引导性，来提升用户的学习兴趣。最为关键的是，大模型所具有的跨学科综合能力，它获得信息的广度和深度都是超过普通学生的。

△英特尔公司市场营销集团副总裁兼中国区总经理王稚聪

“大语言模型在中国正蓬勃发展，中国也是最有希望把大模型转化到各行各业当中，驱动新的生产力的提高。但是目前仍有一个问题没有解决，就是把人工智能部署到工厂产线的部署时间成本和人力成本还是偏高。英特尔也推出了一系列产品，比如此前在中国市场推出了面向云端的第二代Gaudi深度学习加速器——Habana Gaudi 2，帮助中国企业训练大模型。同时，英特尔也正在和技术团队考虑将大模型引入到边缘的推理上当中。”英特尔公司市场营销集团副总裁兼中国区总经理王稚聪说道。

编辑：芯智讯-浪客剑