兆芯宣布全面支持DeepSeek-R1模型部署

近日,国产X86 CPU厂商兆芯宣布,基于兆芯处理器的PC笔记本/台式机终端、工作站、服务器,已经全系成功实现DeepSeek-R1 Distill模型的本地部署,涵盖1.5B、7B、14B、32B、70B、671B等各种参数规模。操作系统方面,兆芯原生支持Linux、Windows、各家国产操作系统,并适配国产GPU AI加速卡。

兆芯介绍了基于两款处理器的DeepSeek解决方案,包括开先KX-7000/8消费处理器和开胜KH-40000/32 64核心服务器处理器。

其中,KX-7000/8是一款8核心型号,主频为3.7GHz,配备32MB L3缓存。基于开先KX-7000桌面处理器的台式机,通过搭配国内显卡、加速卡,在本地成功部署DeepSeek-R1-7B模型,可充分发挥DeepSeek强大的语义理解和推理能力。

通过与WPS Word、Excel、VSCode等常用工具的整合,可以实现智能文档处理、数据处理、智能编程等功能。

△智能文档处理

△智能数据处理

△智能编程

KX-7000是兆芯新一代的高性能桌面PC处理器,采用全新的“世纪大道”自主内核微架构,以及先进的Chiplet互连架构,集成8个CPU核心,共享32MB 三级缓存,最高工作频率可达3.7GHz。

基于KH-40000/16工作站“联和东海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。

该工作站配备了4块高性能的国产GPU推理加速卡,可提供高性价比、稳定高效的推理能力,而优化的CPU与多GPU间互连架构,可有效提升传输带宽,降低延迟。

它还采用了低功耗、静音设计,适合智能办公等桌面本地化AI推理场景。

△联和东海XRS302 AI工作站

在服务器端,开胜KH-40000/32处理器可提供双路64核心的高性能计算能力,支持2TB海量内存,提供强大的扩展能力。

通过搭配国内加速卡,开胜KH-40000/32服务器已成功完成DeepSeek-R1-70B版本的适配和部署,适用于数学、编程、推理等应用领域。

△兆芯服务器终端上成功部署DeepSeek-R1-70B版本

同时,针对满血的DeepSeek-R1-671B大模型,在不插入任何外界加速卡的情况下,开胜KH-40000/32处理器已经完成本地部署,完整验证了兆芯服务器CPU架构承载千亿参数模型的硬件能力。

编辑:芯智讯-林子

0

付费内容

查看我的付费内容