欢迎进入欧宝平台人力资源服务股份有限公司官方网站!
欧宝平台新闻动态
欧宝平台为广大企业提供更加轻便、高效、经济的人力资源服务
电子行业动态欧宝平台点评:AMD正式宣战 谁来为MI300站台?
发布时间:2023-06-17 09:01
  |  
阅读量:

  AMD数据中心和人工智能技术首映式于加州时间2023 年6 月13 日早上10点开始。主要发布产品为:云原生的Bergamo CPU、3D V-Cache 的Genoa-欧宝平台XCPU 及AI 芯片Instinct MI300X GPU 和MI300A APU。AMD CEO Lisa Su认为Al 发展战略主要在三方面: 广泛的 CPU 和 GPU 产品组合、开放且经验证的软件平台以及深入的合作伙伴生态系统。AMD 并未披露MI300 系列的关键客户合作信息,发布会当天收盘下挫3.61%。但根据路透社6 月14 日独家报道,亚马逊高管Dave Brown 表示AWS 正考虑使用MI300。我们前序报告中提到,MI300 全方位追击英伟达Grace Hopper,但软件生态完善或成破局关键。

  MI300X & MI300A:与英伟达相比,AMD AI 能力如何?

  AMD 展现出的AI 产品与我们几个前序报告中描述的大体一致,蓄势待发切入AI 训练赛道。MI300A 为CPU+GPU 架构,对标英伟达GH200;而这次发布的MI300X 为纯GPU,对标英伟达H100:1)单卡内存HBM3 为192GB,领先英伟达H100 NVL 双卡的188GB;2)共1530 亿个晶体管,超过H100的800 亿个;3)内存带宽5.2T欧宝平台B/s 与H100 的2-7.2TB/s 相近。公司展示MI300X 运行400 亿参数的Falcon 模型实时推理,此等参数规模的大语言模型为第一次在单片GPU 上运行。AMD MI300 系列将成为英伟达有力的竞争对手,另外,还需关注英特尔和其他AI 芯片企业如Cerebras 和SambaNova,但更重要的竞争对手或是云计算巨头自研芯片。

  业界首款x86 云原生Bergamo 及采用3D V-Cache 技术的Genoa-X 正式推出。前者的峰值内核数达128(可提高多线程能力,并对标其他多核数的服务器产品如144 核的Intel Sierra Forest),基于特别定制的Zen 4c 微架构,在保持与Zen 4 架构基本相同的功能集的同时将内核缩小35%,让数据中心CPU 的性能推向新高;后者采用超过1GB 的L3 缓存和3D V-Cache 技术,适用于缓存需求较高的技术计算。二者均为EPYC 第四代和采用台积电5nm 制程,对比Sapphire Rapids 采用的Intel 7 节点(10nm 相当于台积电7nm),性能和制程尚处领先。此外,AMD 也宣布与AWS、Oracle、Meta及微软在第四代EPYC 的合作关系。

  PyTorch 创始人在会上宣布PyTorch 2.0 为ROCm 5 版本提供支持。HuggingFace CEO 也宣布将在AMD 平台上优化数千个模型。此前我们在前序报告里多次对比英伟达CUDA 和AMD ROCm 生态圈:ROCm 起步较晚,开发者数量与CUDA 相差较大。ROCm 虽能完全兼容CUDA,但亦只属权宜之计。AMD 正积极拓展生态圈,包括支持Windows、在AI 领域开拓更广泛的框架,如MIOpen 和MIVisionX,以及支持更多的软件,包括TensorFlow欧宝平台、PyTorch 等,与二者的合作将对ROCm 生态圈产生关键助力欧宝平台。

  Lisa Su 于5 月31 日的《福布斯》采访时强调 “放眼 5 年将在 AMD 每一个产品中看到AI”欧宝平台,AI 是公司的战略首位。目前,算力高的英伟达占据AI 训练端的领导地位,但随着AMD 在AI 芯片上逐步发力,或能开始撼动英伟达在行业里独占鳌头的地位。我们也认为云厂商应不希望AI 芯片呈现一家独大的局面,MI300 恰逢其时地出现,为市场提供了英伟达以外的选择。

网站地图