AMD以全新EPYC服务器处理器、Instinct加速器等产品推动AI应用布局

来源:网界网 | 2024-11-05 16:00:46

  今年10月宣布推出代号Turin的第五代EPYC服务器处理器,同步推出与NVIDIA H200抗衡、基于CDNA 3架构设计的Instinct MI325X人工智能加速器,另外也以全新Ryzen AI PRO 300系列处理器推动工作站机种运算能力,更进一步强化嵌入式产品发展布局,此次举办的AI SOLUTIONS DAY活动展示其人工智能解决方案,标榜与市场合作伙伴共同推动人工智能应用发展。

  此次活动中,AMD与26家OEM、ODM、独立软件供应商与嵌入式合作伙伴共同展示以其运算产品推动人工智能技术应用。

  AMD台湾区商用业务处资深业务副总经理林建诚表示,AMD持续推进端对端的人工智能基础设施创新,透过全新EPYC服务器处理器、Instinct加速器、Pensando DPU,以及Ryzen AI CPU等运算产品,针对人工智能、云端、终端及嵌入式工作负载提供广泛的解决方案组合。

  同时,AMD也持续推进开放式人工智能产业体系,通过全新功能、工具、优化和支持扩展AMD ROCm开源人工智能软件堆栈,协助更多开发人员从Instinct加速器中获取极致效能,并且对应当前人工智能应用发展需求。

  AMD全球副总裁暨嵌入式解决方案事业群总经理Rajneesh Gaur则说明AMD藉由广泛的嵌入式AI解决方案组合,以及技术架构推动数据中心更高运算效能与执行效率。

  在边缘 人工智能成为下一波创新浪潮之际,AMD以Versal自适应系统单芯片及Alveo加速卡,协助客户更快将解决方案推向市场,而EPYC嵌入式与Ryzen嵌入式处理器解决方案则可为数据密集型工作负载提供强大且高效的运算效能。

  今年正式宣布出货的第五代EPYC服务器处理器,分别获得Cisco、Dell、HPE、联想、Supermicro等ODM业者及云端服务业者采用,本身提供8核心到192核心的广泛核心数量规格选择,强调在效能及能源效率之间平衡取得优势,其中最高阶的192核心处理器效能比起竞争对手推出同级提升高达2.7倍。

  以采192核心设计的EPYC 9965处理器为例,相比Intel推出的Xeon 8592+处理器在商业型应用如视频转码速度提升高达4倍,而在科学和高效能运算应用洞察时间缩短则多达3.9倍,另外在虚拟化基础设施(infrastructure)中的每核心效能更提升高达1.6倍。

  而在TPCx- AI (衍生)等端对端 人工智能工作负载,EPYC 9965处理器效能提升高达3.7倍,在Meta Llama 3.1-8B等中小型企业级生成式人工智能模型可对应数据吞吐处理效能更比竞争对手推出同级产品提升1.9倍。

  第五代EPYC服务器处理器更以9005系列更将推出以Zen 5c架构打造衍生规格,同时每组CPU可对应多达12通道的DDR5内存模块,最高可对应DDR5-6400 MT/s内存规格,另外也支持完整512b数据路径的AVX-512指令集,并且使用对应机密运算的可信任I/O接口设计,以及正进行该系列中每个部份的FIPS认证, 藉此确保系统运作安全。

  至于预计在2024年第4季量产出货,并且将于2025年第1季起由Dell、HPE、联想、Supermicro、Eviden、技嘉等平台业者导入用于设计产品的Instinct MI325X加速器,标榜能在基础模型训练、微调和推论等要求严苛的人工智能任务提供更高运算效能及执行效率,藉此协助客户和合作伙伴在系统、 机架和数据中心层级打造更高性能和优化的人工智能解决方案。

  此外,AMD也表示透过全新Ryzen AI PRO 300系列处理器推动工作站设备运算效能,提供超过50 TOP的NPU运算能力,藉此推动各类商用工作负载,并且衔接云端、终端运算资源,实现更完整的 人工智能应用体验。

相关阅读

每日精选