高通Cloud AI 100、AMD EPYC™ 7003系列处理器和技嘉服务器解决方案 共同推动AI推理突破每秒千万亿次运算

AI无疑已经成为推动下一代用户体验的驱动力。无论是快速浏览喜爱的社交应用,还是基于数万次AI推理提供的在线购物推荐,几乎每一项移动终端体验都与AI密不可分。目前,这些平台每天承载着数百万的用户量,这又意味着什么呢?它们需要海量性能出众的高密度服务器,来提供满足上述平台持续运行所需的AI推理性能。

目前,通过与AMD最新的EPYC™ 7003系列处理器和技嘉科技的最新G292-Z43服务器解决方案相配合,高通技术公司正助力性能出众的机架式服务器满足高性能需求。上述企业在硬件技术专长领域的结合,带来了顶级性能并为现代化数据中心树立全新标杆。高通技术公司尖端的Cloud AI 100能够与技嘉服务器系统完美适配,这将推动众多出色的AI用例在高速数据分析、个性化推荐、智慧城市和5G通信等领域的普及。

技嘉G292-Z43服务器将支持两台AMD EPYC™ 7003系列处理器用于处理负载,以及多个高通Cloud AI 100 PCI-E卡用于支持需要密集计算的应用来支持AI推理。高通Cloud AI 100推理加速器支持高达400 TOPS的算力,还拥有突破性的性能功耗比,并且仅通过单个高通Cloud AI 100 PCI-E卡即可实现。试想一下,如果每台技嘉服务器最多可搭载16个高通Cloud AI 100 PCI-E推理卡,即可提供高达每秒6.4千万亿次运算(400 TOPS x 16,1 POPS等于1000 TOPS)。这是首次基于高通技术公司AI技术的解决方案突破每秒千万亿次运算(POPS)大关。更值得注意的是,每个服务器机柜可管理超过19个上述服务器单元,从而轻松实现超过100 POPS的算力,这充分体现了高通技术公司在AI领域的强劲实力。欲了解相关参数,请参考以下信息图。

高通Cloud AI 100、AMD EPYC™ 7003系列处理器和技嘉服务器解决方案 共同推动AI推理突破每秒千万亿次运算

更具体来看,单个算力为400 TOPS的HHHL(半高,半长)高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000张图像进行Resnet50模型分类推理,相当于一台服务器机柜每秒可处理超过600万张图像。如此强大的AI性能有望在全球市场增强并规模化扩展AI体验。我们衷心感谢AMD和技嘉科技为实现这一惊人成就所付出的努力。

高通Cloud AI 100 PCI-E卡和搭载AMD EPYC™ 7003系列处理器的技嘉服务器即将面市,请参考文末产品图获取更多信息。

高通Cloud AI 100、AMD EPYC™ 7003系列处理器和技嘉服务器解决方案 共同推动AI推理突破每秒千万亿次运算

高通Cloud AI 100、AMD EPYC™ 7003系列处理器和技嘉服务器解决方案 共同推动AI推理突破每秒千万亿次运算

雷锋网(公众号:雷锋网)雷锋网

雷锋网版权文章,未经授权禁止转载。详情见转载须知

(完)