当前位置:数码通 > 电脑

NVIDIA GTC:ChatGPT专用Hopper GPU H100 NVL来了

来源于 数码通 2023-10-05 01:57

NVIDIAGTC:ChatGPT 的 Hopper GPU H100 NVL 即将推出

ChatGPT一经推出就受到了惊人的欢迎。似乎它一夜之间将生成式AI和大型语言模型推到了最前沿。 Nvidia预计会笑出声来,黄仁勋预计2023年Nvidia来自生成式人工智能的收入将相当大,人工智能及其基础设施即服务(infrastructure as a service) as-a -service)products将扩展其业务模式。

NVIDIA之前就已经加入了这个游戏。 2016 年,NVIDIA 向 OpenAI 交付了第一台 NVIDIA DGX AI 超级计算机,这是支持 ChatGPT 的大规模语言模型突破背后的引擎。现在GPT-4需要更多的计算能力,对速度有更强的要求。

现在NVIDIA正在人工智能及其基础设施方面下大力气,GPU加速,ChatGPT专用Hopper GPU H100 NVL性能强大,ChatGPT专用GPU可以加速10倍,H​​100 NVL是专门为LLM设计的GPU,使用Transfmer 与 ChatGPT 配合使用的加速解决方案。与NVIDIA HGX A100相比,配备四对H100和双NVLINK的标准服务器速度可以提高10倍,可以将大型语言模型的处理成本降低一个数量级。

-->
登录后参与评论