整机性能提升85% AI推理性能提速7倍 阿里云第八代企业级实例g8i算力升级

发布时间: 2024年01月16日 文章来源: 人民邮电报

日前,阿里云宣布第八代企业级通用计算实例ECS g8i算力再升级,国内首发第五代英特尔至强可扩展处理器,依托阿里云自研的“飞天+CIPU”架构体系,ECS g8i实例的整机性能最高提升85%,AI推理性能最高提升7倍。同时提供端到端安全防护,为企业构建可信AI应用提供强有力的隐私增强算力支撑。

阿里云弹性计算产品线总经理张献涛表示,阿里云ECS g8i实例的强劲表现,证明了公共云不仅可胜任超大规模的AI模型,还为AI应用加速落地开辟了新路径。

作为企业级通用计算实例,ECS g8i实例在计算、存储、网络和安全等方面的能力得到了全方位提升。关键参数方面,ECS g8i实例的L3缓存容量提升到320MB,内存速率达5600MT/s,整机性能提升85%,单核性能提升25%;存储方面,ESSD云盘提供100万IOPS,全面搭载NVMe,存储延迟低至百微秒;网络方面,时延低至8微秒;安全方面,ECS g8i实例支持可信计算与加密计算等特性,在全球率先支持机密虚拟机TDX技术,构建全面安全防护。

面向AIGC技术革命,阿里云ECS g8i实例内置指令集升级为Intel AMX高级矩阵扩展加速技术,在int 8矩阵计算的性能最高提升7倍。同时,基于自研eRDMA超低时延弹性网络,可轻松支撑72B参数级别的大语言模型分布式推理,推理性能随集群规模接近线性加速。

“阿里云将不断深耕技术、持续产品创新,为企业提供更加稳定、强大、安全、弹性的计算服务,推动各行业的AI应用进入全量爆发时代。”张献涛表示。 


(编辑:马慧彬)