华人大神出手 AMD显卡AI“炼丹”能力追上来了:RTX 4090八成性能

除了玩游戏,NVIDIA的显卡还在AI加速上遥遥领先,不仅科技巨头都在抢A100/H100等显卡,GeForce游戏卡也是普通人搞AI炼丹的选择,AMD显卡在这方面落后不少。

好消息是AMD现在也能追上来了,深度学习领域的华人大神、OctoML CTO陈天奇带领团队在AMD显卡上做出了大模型推理的方案,这意味着业界又有NVIDI之外的选择,不用为N卡抢破头、加价而困扰了。

华人大神出手 AMD显卡AI“炼丹”能力追上来了:RTX 4090八成性能

根据他的优化算法,在Llama2的7B和13B大模型中,用RX 7900 XTX显卡也能跑出让人满意的性能,性能已经达到了RTX 4090显卡82%或者RTX 3090 Ti显卡的94%水平。

不仅是性能追上来了,AMD显卡的性价比也要高得多,RX 7900 XTX跟其他两款显卡都是24GB显存,但只要999美元,RTX 4090、RTX 3090 Ti分别是1599、1999元,价格高出60-100%。

当然,RX 7900 XTX现在的价格早就松动了,实际售价比999美元便宜不少,而N卡价格一直坚挺。

究其根底,A卡在AI炼丹能力上的提升,尤其是RX 7900 XTX这样的游戏卡能有质变,还是AMD最近在ROCm软件生态上的改进,以前后者对游戏卡及Win平台的支持很差,4月份开始不仅支持Windows系统,也加入了对RX 7900及工作站显卡的支持。

同时AMD还发布了ROCm HIP SDK,允许开发者将针对CUDA平台开发的代码轻松迁移到AMD平台,这有是陈天奇等大神可以在AMD显卡上推动AI能力提升的基础。

声明: 1.本站发布信息均为网友发布或收集于网络!若内容若侵犯到您的权益,请发送邮件至:257218569@qq.com或加QQ,我们将第一时间处理! 2.资源所需价格并非资源售卖价格,是收集、整理、编辑详情以及本站运营的适当补贴,并且本站不提供任何免费技术支持 3.所有资源仅限于参考和学习,版权归原作者所有。

(0)
源代码的头像源代码
上一篇 2023年8月13日 21:49
下一篇 2023年8月13日 21:55

相关推荐

  • Intel最弱鸡处理器大展拳脚:找到了最合适的地方

    Alder Lake-N系列堪称Intel目前最弱鸡的处理器,只有2-4个E核小核心,入门级的N50单核性能类似四代酷睿、一代锐龙,多核性能相当于十几年前的初代酷睿2、推土机FX。 但是,产品没有好坏,只有合适不合适,N系列用来日常办公娱乐肯定不行,但放在软路由、开发板之类场合,还是相当不错的。 研扬科技(AAEON) UP 7000系列开发板和树莓派4非常…

    2023年7月26日
    1980
  • 最快明年推出!华为自研存储细节曝光:功耗、速度完秒SSD等

    3月20日消息,据国外媒体报道称,华为正在积极研发一种前沿的“磁电”存储技术,该技术有望彻底改变数据存储行业的格局。 据悉,这种新型“磁电磁盘”(MED)技术不仅在速度上远超现有的SSD等存储设备,更在能效和容量上实现了前所未有的突破。 在能耗方面,新型“磁电”存储每PB耗电仅为71W,相比传统的磁性硬盘驱动器(HDD)节能高达90%,这无疑为数据中心和大型…

    2024年3月20日
    1160
  • AMD RX 8000显卡“躺平”!没有旗舰 也没有GDDR7显存

    4月26日消息,AMD CPU处理器衔枚疾进,Zen5架构风雨欲来,显卡却依旧强势不起来,RDNA4架构的RX 8000系列看起来有点“不思进取”。 根据之前曝料,RDNA4架构家族将放弃旗舰竞争,也就是RX 7900系列会后继无人,新一代只有两个GPU核心,其中高端的Navi 44可能会成为RX 8800/8700系列,主流的Navi 48可能会成为RX …

    2024年4月26日
    1050
  • 英伟达股价狂飙!黄仁勋身家首次突破1000亿美元 全球富豪榜第15

    5月30日消息,今日,英伟达创始人、CEO黄仁勋的资产净值首次突破1000亿美元,位列全球富豪榜第15。 业界预计,黄仁勋最快有望在2025年前超越特斯拉CEO马斯克,成为全球首富。 美东时间5月29日,英伟达收高0.81%,再创历史新高,成交623.85亿美元,市值达到2.82万亿美元。 自上周财报公布以来,英伟达股价一路狂飙,持续上涨,并在周二首次突破1…

    2024年5月30日
    500
  • AMD战略“放弃”游戏卡!MI300X AI加速卡最快速度赚到1亿美元

    如今无论是NVIDIA还是AMD,都不约而同地降低了游戏显卡的优先级,将更多精力投入AI加速计算卡。 无它,皆为利往。 AMD在发布第三季度财报后就明确表示,Instinct MI300X加速卡有望成为AMD历史上以最快速度达到1亿美元销售额的产品。 NVIDIA目前在AI加速卡市场上处于近乎垄断地位,毕竟硬件强大,软件生态也好用,但受制于有限的产能、高昂的…

    2023年11月3日
    2820

联系我们

在线咨询: QQ交谈

QQ:1205677645

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信