亚马逊首款云AI芯片Inferentia发布:算力高达几百TOPS,明年面世!

继前天亚马逊推出首款自研Arm架构云服务器CPU Graviton后,11月28日,在拉斯维加斯召开的AWS re:Invent大会上,亚马逊云CEO Andy Jassy正式发布了其首款云端AI芯片Inferentia。

Andy Jassy表示Inferentia将是一款高性能、低延迟、持续性好、性价比更高的机器学习推理芯片,由亚马逊云团队设计打造,每个Inferentia芯片的计算力将会高达“数百TOPS”,多块芯片组合在一起后的计算力将会实现“数千TOPS”。预计从这款芯片将于2019年下半年推出,届时亚马逊将面向云计算客户销售运行在这些芯片上的服务。

亚马逊云没有进一步透露该芯片的其他参数,不过根据亚马逊云CEO Andy Jassy在演讲中表示,每个Inferentia芯片的计算力将会高达“几百TOPS”,多块芯片组合在一起后的计算力将会高达“数千TOPS”。

目前已公布的最强算力AI芯片为华为最新发布的7nm昇腾910芯片半精度(FP16)运算能力为256TFLOPS,整数精度(INT8)512TOPS。

Inferentia支持FP16、INT8精度,同时支持TensorFlow、Caffe2、ONNX等流行机器学习框架。

用户可以通过亚马逊云的SageMaker、EC2和同样是新推出的Elastic Inference云服务享受到这块芯片提供的AI计算力。

除了Inferentia之外,亚马逊云今天还发布了一系列云计算新品,比如Elastic Inference加速平台,它能够在所有亚马逊EC2服务上提供GPU加速计算,让AI推理过程速度更快、成本更低(最高能节省75%)。

此外,亚马逊云还推出了区块链管理服务,用于管理点对点支付、处理贷款并帮助企业与分销商和供应商进行交易,支持超级账本平台(Hyperledger Fabric)与以太坊。

来源:综合自网络

0

付费内容

查看我的付费内容