IBM推出5.5GHz八核处理器Telum II,还有300+TOPS的Spyre AI加速器

8月27日消息,在近日召开的Hot Chips 2024大会上,IBM宣布推出针对AI时代的下一代企业计算产品,包括全新Telum II处理器和Spyre AI加速器,预计这两款芯片都将于2025年上市。

IBM Telum II And Spyre Hot Chips 2024_Page_26

Telum II处理器

早在2021年,IBM就推出了第一代的Telum处理器,当时就采用了全新的核心构架,并针对AI加速进行优化。具体来说,该芯片采用三星7nm制程技术制造,核心面积为530mm²,内部有225亿个晶体管,8核心16线程的配置,主频超过5GHz。由于Telum处理器是IBM z16大型机计划成功的关键,所以随着客户需求的变化,IBM需要持续升级该系列芯片,因此推出了性能更强、更适合AI任务的Telum II处理器。

IBM Telum II And Spyre Hot Chips 2024_Page_05

据介绍,Telum II处理器采用了更先进的三星5nm HPP制程技术制造,核心面积为600mm²,拥有430亿个晶体管,虽然还是8核心16线程的配置,但是对于核心分支预测进行了优化改进,比如将寄存器数控从128提高到了160个,改进了存储回写和地址转换,叠加制程工艺的提升,使得核心面积减少了20%,功耗降低了15%。

IBM Telum II And Spyre Hot Chips 2024_Page_10

同样,得益于三星5nm制程以及CPU核心优化,Telum II处理器的CPU核心主频也提升到了5.5GHz,整体性能提升了20%。

IBM Telum II And Spyre Hot Chips 2024_Page_12

Telum II处理器还采用了一个新的电压控制环路,可以帮助CPU内核可以稳定的运行在5.5GHz,并且功耗可以降低18%。

IBM Telum II And Spyre Hot Chips 2024_Page_13

另外,Telum II处理器内部还配备了10个36MB的L2缓存,整体缓存容量达到了360MB,较第一代的Telum处理器增加了40%。此外,每个drawer还拥有360MB的虚拟L3缓存和2.88GB的虚拟L4缓存。

IBM Telum II And Spyre Hot Chips 2024_Page_11

Telum II处理器内部还集成了全新I/O加速单元DPU,并接在L2Cache上,而不是放在PCIe总线后面,提高了50%的I/O密度来优化数据处理。IBM表示,该处理器这一进步提高了 IBM Z 的整体效率和可扩展性,使其非常适合处理当今企业的大规模 AI 工作负载和数据密集型应用程序。

IBM Telum II And Spyre Hot Chips 2024_Page_06

该DPU拥有四组八个微控制器,并运行IBM自己的定制协议。还有PCIe Gen5 x16接口。一个完整的系统可以支持多达192个PCIe卡,12个I/O扩展和16个PCIe插槽等。

IBM Telum II And Spyre Hot Chips 2024_Page_09

为了应对AI加速计算需求,Telum II处理器内部还集成了AI加速器,支持CISC指令集,支持Int8、FP16数据类型的计算加速,单芯片算力达24TOPS,可以运行大语言模型,可实现低延迟、高吞吐量的交易内 AI 推理,例如增强金融交易期间的欺诈检测,并使每个芯片的AI计算能力比上一代提高了四倍。每个drawer集群(8个AI内核)可以将算力提升到192TOPS。

IBM Telum II And Spyre Hot Chips 2024_Page_18

Spyre AI加速器

Spyre AI加速器是基于三星5nm LPE制程技术制造,核心面积为330mm²,拥有260亿个晶体管,是一款专门面向企业级的AI加速器,可以为复杂的AI模型和生成式AI应用提供可扩展的AI加速功能。

具体来说,Spyre AI加速器拥有32个计算核心,与Telum II整合的AI内核拥有类似的构架,支持 int4、int8、fp8 和 fp16 数据类型,整体算力超过300TOPS,适用于低延迟和高吞吐量 AI 应用。每个计算核心还拥有2MB暂存,拥有超过55%的有效TOPS利用率。内存方面,支持LPDDR5。

IBM Telum II And Spyre Hot Chips 2024_Page_20

Spyre AI加速器的核心结构:

IBM Telum II And Spyre Hot Chips 2024_Page_21IBM Telum II And Spyre Hot Chips 2024_Page_22

8个Spyre AI加速器可以通过 75 瓦 PCIe 适配器连接成为一个集群,整个集群可以支持1TB的内存,带来高达1.6TB/s的带宽。

IBM Telum II And Spyre Hot Chips 2024_Page_24

IBM表示,Telum II处理器 和 Spyre AI加速器可以协同工作,形成一个可扩展的架构,以支持 AI 建模的集成方法,即将多个机器学习或深度学习 AI 模型与编码器 LLM 相结合。通过利用每个模型架构的优势,与单个模型相比,集成 AI 方案可以提供更准确和稳健的结果。

“我们强大的多代路线图使我们能够在技术趋势方面保持领先地位,包括不断增长的 AI 需求,”IBM Z 和 LinuxONE 产品管理副总裁 Tina Tarquinio 说。“Telum II 处理器和 Spyre 加速器旨在提供高性能、安全且更节能的企业计算解决方案。经过多年的开发,这些创新将引入我们的下一代 IBM Z 平台,以便客户可以大规模利用 LLM 和生成式 AI。”

据介绍,Telum II 处理器将成为为 IBM 下一代 IBM Z 和 IBM LinuxONE 平台提供支持的中央处理器。它预计将于 2025 年提供给 IBM Z 和 LinuxONE 客户。IBM Spyre Accelerator 目前处于技术预览阶段,预计也将于 2025 年推出。

编辑:芯智讯-浪客剑

0

付费内容

查看我的付费内容