三星采购了价值2000万美元的AMD MI300X芯片

三星采购了价值2000万美元的AMD MI300X芯片

10月7日,据viva100报道,三星电子最近购买了价值 2000 万美元的 AMD Instinct MI300X GPU,以满足其 AI数据中心的需求。

报道称,目前三星新购买的这批 AMD Instinct MI300X GPU,已被送往 DX 部门的领先机构 Samsung Research 进行测试。不过,三星尚未在其极限状态下对MI300X进行测试。据在三星工作的内部人士称,AI 开发进入全面测试状态还需要更多时间。

资料显示,AMD MI300X内部集成了12个5/6nm工艺的小芯片(HMB和I/O为6nm),拥有1530亿个晶体管。在内核设计上,采用了相比MI250X更多计算核心的 CDNA 3 GPU,其每个基于CDNA 3 GPU架构的XCD总共有八个计算芯片(XCD),每个计算芯片有40个计算单元,总共有320个计算单元,即20480个核心单元。不过量产版实际总共有304个计算单元(每个GPU小芯片38个CU),19456个流处理器。MI300X还配备了更大的 192GB HBM3内存(8个HBM3封装,每个堆栈为12 Hi)相比MI250X提高了50%,带来高达5.3TB/s的带宽和896GB/s的Infinity Fabric带宽。

根据AMD的说法,MI300X与英伟达的H100加速器相比,内存容量提高 2.4 倍,内存带宽提高 1.6 倍,FP16/FP8 TFLOPS算力是其1.3 倍。在 1v1 比较中,速度比 H100 (Llama 2 70B) 快达 20%;在 1v1 比较中,速度比 H100 (FlashAttention 2) 快达 20%。

从价格来看,公开资料显示,MI300X 的售价约15000美元,而英伟达H100售价高达30000美元。而报道称,三星此次大规模采购的MI300X的价格仅为10000美元,只有英伟达H100的1/3,确实非常实惠。

虽然此前的一些公开测试显示,MI300X在部分AI工作负载性能方面落后于英伟达H100,但三星电子最近在对于MI300X的一些测试显示,MI300X性能与英伟达H100相当,更何况MI300X价格也更为实惠。

值得注意的是,三星电子最近也向AMD提供了其新的HBM3E内存进行测试,希望AMD将其用于其 Instinct GPU 系列。而在此之前,三星电子的HBM3E 内存已经通过了英伟达GPU的认证。预计三星未来将继续从 AMD 购买 GPU,同时推动AMD采用三星的HBM3E内存。据一位三星电子的高管称,预计两家公司之间的联系将进一步加强。

编辑:芯智讯-浪客剑

0

付费内容

查看我的付费内容