amd日前首次预览了zen5架构的下一代turin epyc处理器,单颗最多128核心,官方也特意强调了其强大的ai性能。
按照amd的说法,两颗turin epyc 128核心对比两颗intel至强铂金8592 64核心,也就是256核心对128核心,可以在llama2 70亿参数大模型应用中完胜,摘要、对话、翻译性能分别领先约3.9倍、5.4倍、2.5倍。
对于这样的对比,intel方面自然是不服,特意撰文称对手刻意压低了自己产品的性能,并给出了不一样的数据。
intel首先表示,emerald rapids五代至强凭借amx ai加速引擎,以及更多核心、更大缓存、更快内存,可以提供出色的ai性能,目前市面上没有敌手。
硬件之上,intel始终承诺推进ai开放软件,针对整个ai生态进行广泛优化,比如大语言模型推理深度优化之后的延迟相比pytorch默认值降低了5倍。
intel指出,amd对比中的至强铂金8592 成绩采用了未优化的软件和测试方式,性能偏低,比如对话部分的实际成绩能达到amd宣称的接近5.5倍,从而可以领先turin epyc。
intel还进一步强调,ai的应用不只是大模型,比如在int8整数类型上的各种深度学习推理上,四代和五代至强就都有着最优秀的性能,比如图像分类、自然语言处理等等,性能都可以完胜amd现有的旗舰产品epyc 9754。
amd zen5架构的第五代epyc风雨欲来之际,intel已经发布了首次采用能效核的至强6 sierra forest,后续还会推出采用性能核的至强6 granite ridge。
又一场大战就要开始了!就ai而言你看好哪边呢?