NVIDIAGTC:ChatGPT 的 Hopper GPU H100 NVL 即将推出
ChatGPT一经推出就受到了惊人的欢迎。似乎它一夜之间将生成式AI和大型语言模型推到了最前沿。 Nvidia预计会笑出声来,黄仁勋预计2023年Nvidia来自生成式人工智能的收入将相当大,人工智能及其基础设施即服务(infrastructure as a service) as-a -service)products将扩展其业务模式。
NVIDIA之前就已经加入了这个游戏。 2016 年,NVIDIA 向 OpenAI 交付了第一台 NVIDIA DGX AI 超级计算机,这是支持 ChatGPT 的大规模语言模型突破背后的引擎。现在GPT-4需要更多的计算能力,对速度有更强的要求。
现在NVIDIA正在人工智能及其基础设施方面下大力气,GPU加速,ChatGPT专用Hopper GPU H100 NVL性能强大,ChatGPT专用GPU可以加速10倍,H100 NVL是专门为LLM设计的GPU,使用Transf或mer 与 ChatGPT 配合使用的加速解决方案。与NVIDIA HGX A100相比,配备四对H100和双NVLINK的标准服务器速度可以提高10倍,可以将大型语言模型的处理成本降低一个数量级。
-->