从芯片到平台,英特尔边缘AI解决方案如何助力合作伙伴创新?

在近日于天津举行的第十七届英特尔网络与边缘计算行业大会上,英特尔携手超过400位生态伙伴和客户代表,共同探讨边缘AI的未来发展趋势,并展示了众多基于英特尔边缘AI解决方案,在教育、智能制造等垂直领域的最新精彩应用实例。

边缘AI市场潜力巨大,中国市场的落地将更快

自2023年以ChatGPT为代表的生成式人工智能(AI)持续火爆以来,越来越多的企业正积极拥抱变革,将AI技术融入边缘计算领域,以期释放更强大的生产力。根据Gartner预测,到2026年,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。而IDC数据显示,中国生成式AI投资增长加速,2022到2027年五年的复合年增长率达到86.2%,生成式AI正在成为驱动智能发展的关键技术。

而随着半导体技术的发展,生成式AI所依赖的大语言模型也开始从云端进入到边缘侧,依靠边缘设备自身的算力直接在边缘侧运行大语言模型,使得AI的能力不再依赖于网络,并且更利于隐私数据的保护以及低时延和高实时性要求较高的应用。特别是随着越来越多的支持在端侧运行AI大模型的AI手机芯片和AI PC芯片的推出,边缘AI的发展开始进入了一个新的阶段,也为企业开辟了前所未有的机遇。

如今,企业正积极拥抱变革,将AI技术融入边缘计算领域,以期释放更强大的生产力。据Gartner预测,到2026年,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。而IDC数据显示,中国生成式AI投资增长加速,2022到2027年五年的复合年增长率达到86.2%,生成式AI正在成为驱动智能发展的关键技术。英特尔认为,中国生成式人工智能市场的规模在今年会达到33亿美金,未来几年会迅速翻倍发展,市场发展前景广阔。

英特尔公司市场营销集团副总裁、英特尔中国网络与边缘及渠道数据中心事业部总经理郭威指出,中国大模型在行业落地方面,可能在以下三个方面发展得更快:

第一,模型本身在行业应用上的发展更快。虽然国外在标准大模型方面确实发展较快,但中国在利用这些开源的大模型或者结合国内的基准大模型,在行业落地方面,尤其是在与应用的结合上,走得更快一些。中国市场的一个显著特点就是应用发展迅速,能够较快地探索出解决行业痛点的有效途径;

第二,可以更快的解决实际的行业问题。AI仅仅依靠模型训练是不够的,对于推理能力的需求提升在今年尤为明显;

第三,在行业应用落地方面更快。行业场景的落地必然涉及到从端到边缘再到云端大模型的算力平衡分布。如果只是垂直大模型的一些标准应用,可能大模型主要部署在云端。但由于行业落地的需要,必然会促使AI算力向边缘和端侧分布。

英特尔市场营销集团副总裁兼中国区总经理王稚聪也表示,“如今,作为实体经济的根基,中国制造业规模持续扩大、占比稳步提升、结构不断优化,投资持续增长,越来越多的企业正在通过AI实现数字化转型,以新质生产力促进产业高质量发展。基于此,英特尔将集中优势资源,加快推动以大模型为代表的AI技术助力传统制造业转型升级,同时为企业提供开放、即插即用的解决方案,打造开放、可扩展的系统架构,助力企业智胜未来。”

从芯片到平台,英特尔提供完整的边缘AI解决方案

对于生成式AI来说,算力、算法和数据依然是三大核心要素。其中,算力可谓是核心中的核心,没有英伟达AI GPU的支持,各类AI大模型也不可能发展的这么快,这也成就了英伟达在云端AI芯片市场霸主的地位。但是在边缘AI芯片市场,目前仍处于快速发展的初期阶段,也没有形成固定的市场格局。

据Gartner的数据显示,半导体的市场规模在2021年首次突破5000亿美元,当下半导体技术正在推动几乎所有行业的转型。随着对算力需求永无止境的增长,预计到2030年,半导体的市场规模将翻一番,达到1万亿美元。其背后主要的驱动力主要来自于全球各行业的数字化转型以及人工智能结合的新机会,这其中边缘AI市场增长将是一大关键驱动力。

作为一家芯片厂商,英特尔拥有从云端到边缘以及网络的一整套的多样化的芯片产品,包括英特尔凌动处理器、英特尔酷睿处理器、英特尔酷睿Ultra 处理器、专为边缘设计的英特尔锐炫GPU、英特尔至强处理器等。

对于边缘AI解决方案来说,丰富的芯片选择只是一部分,更为重要的是软件平台和垂直行业的接近方案套件。因此,英特尔基于对边缘AI行业趋势的深入洞察,依托广泛的芯片基础,推出了专为边缘和网络AI设计的模块化平台——Tiber。同时,英特尔还特别为工业制造、零售、教育、交通、金融、医疗、媒体及娱乐等多领域提供了定制的垂直解决方案套件,助力客户加速AI在边缘和网络的设计、开发,并迅速扩大其应用范围。

“英特尔最重要的一点是要确保我们能够真正地把芯片和软件结合在一起。我们不会把部署的复杂度都扔给企业,我们希望能够帮助大家降低复杂度,所以有了英特尔Tiber边缘平台,把边缘芯片和平台更好地结合在一起,使大家能够更快地部署应用,使得网络更加安全,更加优化。除了Tiber边缘平台之外,我们还有面向各个垂直行业的AI套件,可以帮助大家在边缘端部署更好的应用,而且都是在本地部署的。AI套件涉及到工业、医学、零售等不同领域,适用于很多行业或者垂直领域。客户可以拿这些AI套件进行个性化、定制化的应用及开发,集成到他们的系统中去。最重要的是,我们可以帮助企业降低上市时间,帮助大家快速找到自己的解决方案。”英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti进一步解释道。

Sachin Katti还指出,AI有望成为近几十年最具颠覆性的技术,它将帮助企业大幅提升处理复杂商业问题的能力。英特尔专注于帮助企业简化在PC、边缘和数据中心部署AI的复杂流程,以实现“让AI无处不在”的愿景。结合我们强大的芯片基础、软件定义的简便性以及开放多元的生态系统,英特尔能够为客户提供丰富的选择,并助力他们充分释放AI潜力。

携手中国合作伙伴,加速AI大模型应用落地

凭借长期构建的广泛生态系统、深厚技术底蕴,以及对各行业需求和趋势的敏锐洞察,英特尔携手众多中国本土合作伙伴,支持大语言模型(LLM)在不同行业的落地应用。

据介绍,从去年到今年,英特尔也和国内领先的大模型厂商展开了非常深入的合作,在AIPC领域进行大量合作与推广,同时英特尔还与合作伙伴在上述垂直行业领域落地了很多项目。

根据英特尔公布的数据显示,截至目前,英特尔网络与边缘事业部在中国已经与500多家OEM/ODM和150多家ISV建立了合作关系,使超过200万开发者受益,全球成功部署的案例超过9万个。在生态赋能方面,英特尔有许多方式能够支持到合作伙伴,去赋能生态的增长。比如说技术资源的共享、培训和测试支持、项目合作、共同进行市场开拓等。

英特尔公司副总裁兼网络与边缘解决方案事业部总经理Dan Rodriguez也指出:“我们为大家提供培训,同时和整个的社区进行交流,共同创造我们的价值链,让产品能够满足世界的需求。我们通过技术培训、标准制定和联盟合作,让各方参与者都能充分融入并发挥其优势,增强合作伙伴在行业中的竞争实力。无论是在制造业、能源、城市治理还是通信等领域,我们会拓展更多的垂直行业和垂直领域,来满足客户的需求。另外,在市场推广方面,英特尔凭借自身在国内及全球都强大的市场推动能力,可以帮助合作伙伴在国内,甚至在海外市场进行联合营销拓展。”

在此次峰会上,英特尔还携手希沃、科东软件、深信服、开域集团,分别展示了在教育、工业、网络、零售等领域的成功合作案例:

§  在教育领域,十余年来,英特尔与希沃在“AI+教育”解决方案的开拓上展开紧密合作。希沃第七代交互智能平板和最新的教师终端,借助AI功能帮助教师完成一键备课、互动式教学、课堂反馈等任务,显著提升了课堂效率和教学质量。基于英特尔®酷睿™Ultra处理器,希沃在本地即可完成AI教学大模型的运行,并显著提高系统响应速度和稳定性。希沃的产品如今已覆盖17万所学校,260万间教室,服务800万名教师,帮助完成了8亿个生成式课件的制作。

§  面向工业数字化转型升级的迫切需求,科东软件通过先进大语言模型实现任务理解及代码生成,并依托科东智能控制器的多模态视觉语言模型,实现对机器人动作的精准控制,极大简化了开发流程并提升了生产效率。通过在英特尔®酷睿™Ultra 处理器上部署大语言模型,还减少了对算力设备和网络传输的依赖,有效降低了操作延迟,满足工业场景对低延迟和高可靠性的需求。

§  在网络领域,深信服采用英特尔®至强®处理器和高速以太网连接技术,成功实现了垂直领域安全大模型SecurityGPT的高效能部署。这一集成方案不仅提供了高带宽HBM加速,极大提升了大语言模型的处理速度,还通过RDMA网络技术支持多节点的轻松扩展。此外,该方案还展现了极强的兼容性,支持参数量高达70B的多种大语言模型,并能够同时部署网络安全业务和大模型推理任务。同时,它还带来了更佳的总体拥有成本(TCO),进一步降低了企业的运营开支。

§  在智慧零售领域,为助力开域集团大模型AI解决方案得以快速落地,英特尔为其提供了从硬件到软件的全方位支持,涵盖凌动®、至强®处理器、英特尔锐炫™ GPU系列、和酷睿™ Ultra处理器等在内的先进处理器技术,以期为该企业提供强大的算力和灵活性。同时,x86架构和OpenVINO工具套件进一步增强了系统的可扩展性、易运维性和成本控制能力。英特尔的产品与支持团队深入项目服务的核心,提供无缝支持,确保AI解决方案从概念到实施的每一步都精准高效,为开域集团的技术创新和市场竞争力提供了坚实的后盾。

在峰会现场,英特尔还连线其成都工厂,展示了工厂产线上测试的AI检测方案。这是英特尔网络与边缘事业部和合作伙伴一起研发的一套解决方案,依托软件定义自动化的理念,基于英特尔边缘控制平台,通过软POC,将AI视觉识别和智能模块有机结合在一起,在不对原有机器设备做大的改动,且不影响生产节拍的基础上,实现了实时切片检测,从而使得检测精度提升到了95%,相等于能够在很短的时间内在一个足球场里找到一根头发丝,每小时大约可以检测200片托盘。目前英特尔正持续优化和完善这套方案,预计会在今年年底部署进工厂。

英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士表示:“今天和大家分享的‘AI+行业’落地案例,涵盖了教育、网络、工业、视频等应用场景,AI模型的体积也从起初的几百兆到3B、7B、13B,最大到70B。我们提供了全套的软件工具链,满足不同行业对业务场景的需求,通过“AI+行业”的应用,解决了客户最终的需求,带来了创新业务模式,实现了增收和增效的双重成功。”

“英特尔对客户的技术支持始终与时俱进,通过全栈解决方案的不断升级,为客户提供全面、高效的服务体系。我们不仅仅是技术的提供者,更是本地合作伙伴的倾听者和同行者。数年深耕,我们与合作伙伴紧密携手,打造出真正满足中国行业需求的解决方案。从运用AI 进行创新的‘+AI时代’,到今天以AI为主导推动创新的‘AI+时代’,我们正站技术转型的前沿。英特尔将进一步深化战略,确保我们的技术更贴近中国用户,更深入地推动各行业的数字化转型。我们坚信,通过创新与合作,英特尔将与合作伙伴和客户共同开启‘AI+时代’的新篇章。”陈伟总结说道。

编辑:芯智讯-浪客剑

0

付费内容

查看我的付费内容