NVIDIA宣布推出其下一代Blackwell GPU架构,旨在引领加速计算的新时代,并使组织能够构建和运行实时生成式AI,以支持万亿参数的大型语言模型。Blackwell平台承诺相比其前身Hopper架构,成本和能源消耗降低了25倍。新的GPU架构以开创性的六项技术命名,其中包括拥有2080亿个晶体管的世界上最强大的芯片、第二代Transformer引擎以支持两倍的计算和模型大小、第五代NVLink互连技术以实现高速多GPU通信,以及用于可靠性、安全性和数据解压缩的先进引擎。Blackwell的核心是NVIDIA GB200 Grace Blackwell超级芯片,它将两个B200 Tensor Core GPU与Grace CPU通过超快速的900GB/s NVLink互连技术相结合。多个GB200超级芯片可以组合成系统,如具有72个Blackwell GPU和36个Grace CPU的液冷GB200 NVL72平台,提供1.4 exaflops的AI性能。NVIDIA已经获得了亚马逊网络服务、谷歌云、微软Azure和Oracle云基础设施等主要云服务提供商的支持,以提供基于Blackwell的实例。其他计划推出Blackwell产品的合作伙伴包括戴尔科技、Meta、微软、OpenAI、Oracle、特斯拉等硬件、软件和主权云领域的众多公司。Blackwell的巨大性能提升和高效性可能成为使企业实时万亿参数AI成为现实的引擎。