传蚂蚁集团转向依赖国产AI芯片训练模型,成本降低了20%

3月24日消息,据彭博社报道,知情人士透露,中国蚂蚁集团使用本土制造的国产AI芯片开发大语言模型训练技术,使得其成本降低了20%。

报道称,蚂蚁集团使用了包括阿里巴巴和华为在内的中国科技厂商设计的国产AI芯片,采用混合专家模型(MoE,Mixture of experts)机器学习方法,训练结果可以与英伟达公司的 H800 芯片匹敌。其中一名知情人士透露,蚂蚁集团虽然仍有使用英伟达AI芯片进行 AI 开发,但现在已经切换到主要依赖包括 AMD 和国产AI芯片在内的替代品。这凸显了中国公司试图使用国产AI芯片来替代最先进的英伟达AI芯片。

蚂蚁集团本月发布了一份研究报告称,其模型在部分基准测试中超过了 Meta,如果按预期工作,蚂蚁集团的AI平台可能将助力中国 AI 发展迈出又一个新的步伐。

随着各大科技公司向 AI 投入大量资金,MoE 模型已成为一种流行的选择,特别是被谷歌和 DeepSeek 等公司采用而获得广泛认可。该技术将任务划分为更小的数据集,非常类似于拥有一支专注于工作某个部分的专家团队,使过程更加高效。

报道还提到,蚂蚁集团一直在研究更有效地训练 LLMs 的方法,并消除高性能芯片限制。其论文标题清楚地表明,蚂蚁集团设定的目标是“不使用高端 GPU”扩展模型。这与英伟达的理念相反。

英伟达 CEO 黄仁勋认为,即使随着像 DeepSeek R1 这样的更高效模型问世,计算需求也将增长,他认为各大公司需要更好的芯片来创造更多收入,而不是更便宜的芯片来削减成本。他坚持采用构建具有更多处理核心、晶体管的大型 GPU 策略。

编辑:芯智讯-林子

0

付费内容

查看我的付费内容