人工智能公司MosaicML称不要迷信英伟达芯片 AMD芯片提供类似性能

目前在人工智能热潮下英伟达股价水涨船高,因为人工智能模型训练依靠英伟达提供的 A100/H100 加速卡

至少在之前业内基本都认同英伟达的加速卡提供最佳的性能,所以英伟达的这些专用加速卡被各大公司哄抢。

人工智能初创公司MosaicML在详细评测后称大家不应该迷信英伟达芯片 , 因为AMD米兰芯片的性能并不差。

该公司使用多种工具对英伟达A100加速卡和AMD MI250加速卡进行测试,测试显示MI250加速卡也足够用。

人工智能公司MosaicML称不要迷信英伟达芯片 AMD芯片提供类似性能

两款加速卡的对比:

英伟达A100加速卡和AMD MI250加速卡均为上一代产品,最新产品是英伟达H100/AMD MI300系加速卡。

选择这两款相对来说价格划算点的加速卡进行测试,然后在不改变底层软件代码的情况下用来训练LLM算法。

MosaicML称在基于实际工作负载测试中,LLM训练堆栈保持稳定且性能良好,不需要进行额外的各种配置。

其中AMD MI250加速卡的每GPU数据吞吐量相当于英伟达A100 40GB版的 80%,是A100 80GB版的73%。

因此确实有差距但差距并不算大,对人工智能公司来说并不是非得高价抢购英伟达显卡,其他加速卡也能用。

AMD软件优化有望提升性能:

MosaicML还提到一点是加速卡制造商的主要弱点在于软件,也就是如何通过软件优化加速卡提供最佳性能。

AMD目前在软件优化方面不断改进,预计AMD新推出的HPCGPU会更出色,从而提供更好的性能用于计算。

对于这份评测报告AMD很高兴,因为这支持了AMD「开放且易于实施的软件生态系统」用于AI行业的战略。

英伟达对此则是拒绝评价,毕竟这报告对英伟达来说可能不算是好消息,所以不如保持沉默继续高价卖卡吧。

MosaicML 公司发布的测试报告原文可以点击这里查看: https://www.mosaicml.com/blog/amd-mi250

本文来源 蓝点网,由本站 收集整理,其版权均为 原网址 所有,文章内容系作者个人观点,不代表 本站 对观点赞同或支持。如需转载,请注明文章来源。

© 版权声明
THE END
喜欢就支持一下吧
点赞50 分享