英伟达发布最新AI芯片H200,性能比H100提升近一倍

更新时间:2023-11-15 20:24:01 作者:桔子生活

据报道,英伟达最近发布了其最新的AI芯片H200,其性能较之前的H100提升了近一倍。这一消息引起了全球科技界的关注和瞩目。AI技术在各个领域中的应用越来越广泛,而AI芯片的性能直接影响着人工智能技术的发展和应用效果。英伟达发布的H200芯片的强大性能,无疑将为人工智能领域带来新的突破和创新。

界面新闻记者 | 彭新

界面新闻编辑 |

英伟达在2023年全球超算大会(SC23)上推出了一款最新的AI芯片H200,用于AI大模型的训练,相比于其前一代产品H100,H200的性能提升了约60%到90%。

H200是英伟达H100的升级版,与H100同样基于Hopper架构,主要升级包括141GB的HBM3e显存,显存带宽从H100的3.35TB/s增加到了4.8TB/s。

在大模型推理表现上,H200在700亿参数的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上H200相比H100直接降低了一半。对于显存密集型HPC(高性能计算)应用,H200更高的显存带宽能够确保高效地访问数据,与CPU相比,获得结果的时间最多可提升110倍。

由于架构相同,H200将与H100在软件上相兼容,这意味着H200将具有H100的所有功能。英伟达宣称,H200在大模型Llama 2、GPT-3.5的输出速度上分别是H100的1.9倍和1.6倍。

英伟达加速计算总经理兼副总裁伊恩·巴克 (Ian Buck)称:“想要通过生成式AI和HPC应用创造智能,就必须使用大型、快速的GPU显存来高速、高效地处理海量数据。借助H200,业界领先的端到端AI超级计算平台的速度将会变得更快,一些世界上最重要的挑战,都可以被解决。”

过去,英伟达数据中心AI芯片通常两年更新一次芯片架构,最新芯片架构是Hopper。不过英伟达曾于上个月向投资人披露,由于市场对其AI芯片需求旺盛,公司将从每两年发布一次新架构转向每一年发布一次。 英伟达还向投资人称,其将于2024年发布基于Blackwell架构的B100芯片。

H200将于2024年第二季度出货。英伟达称,从明年开始,亚马逊云科技、谷歌云、微软Azure 和甲骨文云将成为首批部署基于H200实例的云服务提供商。

英伟达股价在周一美股交易时段上涨,且已连续第九个交易日上涨,创出2016年12月27日以来的最长连涨走势。今年以来,英伟达股价累计涨幅超过230%。

以上就是英伟达发布最新AI芯片H200,性能比H100提升近一倍的相关介绍,希望能对你有帮助,如果您还没有找到满意的解决方式,可以往下看看相关文章,有很多英伟达发布最新AI芯片H200,性能比H100提升近一倍相关的拓展,希望能够找到您想要的答案。

为您推荐

借呗逾期说要上门怎么办?被催收的人别慌

1. 借呗逾期说要上门,首先要保持冷静,不要被威胁吓倒。借呗是一种虚拟信用产品,逾期后会被催收。但是,根据我国法律规定,催收人员不能使用暴力、威胁或者骚扰等不正当手段进行催收。...

2023-08-15 22:00

犯了故意泄露国家秘密处罚,泄露国家秘密不够刑事处罚

国家机关工作人员违反保守国家秘密法的规定,故意或者过失泄露国家秘密。情节严重的,处三年以下有期徒刑或者拘役;情节特别严重的,处三年以上七年以下有期徒刑。非国家机关工作

2023-07-21 12:40

人保大护甲3号意外险值得买吗?教您几个实用方法

1. 人保大护甲3号意外险值得购买吗?人保大护甲3号是一款旨在解决人们在意外事故中出现的经济损失而推出的保险产品。它的保障范围广泛,包括医疗费用、伤残或死亡赔偿等。如果您注重保...

2023-07-09 21:48

美团信用卡会寄卡来家里吗?美团信用卡不激活可以作废吗?

1. 美团信用卡会寄卡来家里吗?目前,美团信用卡可以在美团APP上进行申请,但是不能通过快递公司寄卡到家。一般情况下,申请成功后需要前往线下银行网点进行领取,需要带着身份证和信用...

2023-07-21 09:53

美国还不认错,却在贼喊捉贼!美财长耶伦指责东亚产能过剩危害全球

最近, 美国财政部长耶伦在一次讲话中指责东亚国家产能过剩危害全球经济。然而, 很多人却认为美国本身也存在着大量产能过剩问题,却在贼喊捉贼,掩盖了自身的问题。这种双重标准

2024-04-12 10:10

百万医疗险哪家保险公司产品好?不知道选赶紧来看看

1. 百万医疗险已经成为越来越多人所选择的一种重要保险产品。然而,目前市场上所涉及到的百万医疗险的保险公司却多达几十家,让消费者难以做出更为理性的选择。那么,百万医疗险哪家保险公司...

2023-06-30 13:03