英伟达最强ai芯片gb200成了香饽饽:微软亚马逊抢着要-kb88凯时官网登录

来自:
时间:2024-03-20
阅读:
免费资源网 - https://freexyz.cn/

在2024年美国加州圣荷西的gtc大会上,gpu巨头英伟达宣布推出号称目前最强大的ai芯片gb200,并计划于2024年晚期开始正式出货。

这款芯片采用了英伟达的最新blackwell架构,公司创始人兼ceo黄仁勋表示,尽管两年前推出的hopper架构gpu表现出色,但英伟达仍需要一款更强大的gpu来满足市场需求。

英伟达遵循每两年更新一次gpu架构的策略,以显著提升ai芯片的性能。继2022年发布的基于hopper架构的h100 ai芯片之后,英伟达继续引领全球ai市场。

现在,搭载blackwell架构的新ai芯片性能将更加强大,尤其是在处理ai任务方面,该架构得名于数学家david harold blackwell。

英伟达最强ai芯片gb200成了香饽饽:<a href=https://www.freexyz.cn/tag/microsoft.html target=_blank class=infotextkey>微软</a>亚马逊抢着要

黄仁勋透露,blackwell架构的ai运算性能在fp8和newfp6上可达到20 petaflops,是前一代hopper架构的8 petaflops性能的2.5倍。

在newfp4上,性能更是达到了40 petaflops,是hopper架构的5倍。根据不同设备配置的内存容量和带宽,实际性能可能还会更高。这种额外的处理能力将使人工智能企业能够训练更大、更复杂的模型。

英伟达最强ai芯片gb200成了香饽饽:微软亚马逊抢着要

采用台积电4纳米制程技术的blackwell架构gpu体积庞大,集成了两个独立制造的裸晶(die),共有2,080亿个晶体管,并通过nvlink 5.0接口连接。

英伟达使用每秒10 tb传输速度的nvlink 5.0来连接两块裸晶,官方称该接口为nv-hbi。blackwell complex的nvlink 5.0接口提供的带宽高达每秒1.8 tb,是前代hopper架构gpu上nvlink 4.0接口速度的两倍。

英伟达最强ai芯片gb200成了香饽饽:微软亚马逊抢着要

黄仁勋进一步指出,新推出的gb200 ai芯片包含两个blackwell gpu和一个基于arm架构的grace cpu。其推理模型性能比h100提升了30倍,同时成本和能耗降低到原来的1/25。

英伟达最强ai芯片gb200成了香饽饽:微软亚马逊抢着要

针对有大型需求的客户,英伟达提供完整的产品,如gb200 nvl72服务器,配备了36个cpu和72个blackwell架构gpu,以及一套完整的水冷散热方案,可实现高达720 petaflops的ai训练性能或1,440 petaflops的推理性能。服务器内部使用的电缆总长度接近2英里,包含5,000条独立电缆。

目前,亚马逊的aws已计划采购由2万片gb200芯片组成的服务器集群,能够部署拥有27兆参数的模型。除了亚马逊的aws之外,dell、alphabet、meta、微软、openaioracle和tesla等也成为了blackwell系列芯片的采用者。

免费资源网 - https://freexyz.cn/
返回顶部
顶部
网站地图