当前位置:数码通 > 软件

ChatGPT热潮引发AI服务器爆单

来源于 数码通 2023-10-05 09:17
ChatGPT热潮引发AI服务器订单爆发电子爱好者网报道(文/李弯弯)近期消息,随着ChatGPT热潮,华为AI服务器,拓维信息兆瀚RA5900—— A系列AI训练服务器的询价和预订数量爆发式增长。

AI服务器通常配备GPUFPGAASIC等加速芯片,CPU的组合和加速芯片可以满足高吞吐互联 为自然语言处理、计算机视觉机器学习等AI应用场景提供强大算力支持,支持AI算法训练和推理。

AI服务器与普通服务器的区别

服务器是一台高性能计算机。作为网络的节点,它存储和处理网络上80%的数据和信息,因此也被称为网络的灵魂。普通服务器采用CPU作为计算能力的提供者,采用串行架构,擅长逻辑计算和浮点计算。由于逻辑判断需要大量的分支跳转,因此CPU的结构复杂,计算能力的提升主要通过积累更多的核心来实现。

在大数据、云计算人工智能、元宇宙、数据孪生和物联网等网络技术的应用中,互联网上的数据几何形状上的倍数增长,对于以CPU为主要算力来源的传统服务来说是一个巨大的考验。目前CPU处理技术和单CPU核心数已接近极限,但数据量还在持续增加,因此需要提高服务器的数据处理能力。在这种环境下,AI服务器应运而生。

AI服务器与普通服务器的区别:就服务器的硬件架构而言,AI服务器是异构服务器,可以根据应用范围进行不同方式的组合,比如CPU+GPU、CPU+TPU、CPU+其他加速卡等。与普通服务器相比,内存、存储、网络没有区别。主要是大数据、云计算、人工智能等需要更多的内存来满足各种数据的收集和组织。

普通GPU服务器一般有单卡或双卡。 AI服务器需要承担大量计算,一般配置4块以上GPU卡,甚至搭建AI服务器集群。 AI服务器需要独特的设计,因为AI服务器有多个GPU卡。系统结构、散热、拓扑都需要专门设计,以满足AI服务器长期稳定运行的要求。

目前市场上的AI服务器普遍采用CPU+GPU的方式。由于GPU和CPU形态不同,AI服务器采用并行计算模式,擅长整理图形渲染、机器学习等密集型数据运算。在GPU上,NVIDIA优势明显。单张GPU卡的核心数量可达近千个。例如,如果配备16颗NVIDIATesla V100 Tensor Core 32GB GPU,核心数量可超过10,240个,计算性能可高达每秒2个。千万亿次。而且经过近几年市场的发展,也证实了CPU+GPU异构服务器在当前环境下确实有很大的发展空间。

AI服务器市场现状及主要参与者

近年来,中国市场AI服务器的出货量和渗透率不断提升。未来,预计随着AI模型训练和应用的兴起,需要支持AI功能的服务器数量将不断增加。 IDC预计2021年中国AI服务器市场规模为57亿美元,同比增长61.6%。到2025年,市场规模将增长至109亿美元,复合年增长率为17.5%。

据其此前发布的《中国加速计算市场(2021年下半年)跟踪报告》预测,2021年中国AI服务器市场规模将达到350.3亿元,同比增长68.6%。浪潮信息、宁昌、新华三、华为、安庆位列前五名,占据82.6%的市场份额。其中,浪潮AI服务器市场份额达到52.4%。

近日,浪潮资讯在平台表示,公司在人工智能服务器领域的市场占有率位居全球AI服务器市场第一,并已在ChatGPT、AIGC方向布局相关业务。近日,有消息称,淮海智能计算中心携手浪潮信息进行超大规模参数AI大模型训练性能测试。实测数据显示,千亿参数规模的自然语言AI单一大模型在淮海智能计算中心计算平台上的训练算力效率达到53.5%,创下AI大模型训练行业新高计算能力效率。

宁昌在AI服务器方面发布了多款产品,例如基于第四代IntelXeon可扩展处理器High-终端 2U 机架服务器。可以根据业务需求灵活配置资源,满足各行业的应用需求。非常适合机器学习、AI推理、云计算、高性能计算、云存储、大数据、虚拟化、办公系统等应用场景。

还有上面提到的拓维信息。早在ChatGPT爆发之前,它就已经布局了一系列人工智能产品。公司表示,旗下兆瀚智能计算产品包括AI推理、AI训练、AI集群等,具有超强的AI算力、更好的AI能效、最佳的AI扩展等产品特点,具有行业领先优势。

未来,拓维信息将继续聚焦先进计算、人工智能等前沿技术领域,加大人工智能产业规划布局和基础软硬件产业投入,充分发挥影响力在人工智能领域。通过与华为全方位深入合作,推出基于升腾处理器的兆瀚AI产品,致力打造业界超强的AI算力平台。

中科曙光在AI服务器上也有布局。据介绍,中科曙光推出了“全浸式液冷AI训练专用服务器”,并与百度、复旦大学等企业和科研院所深度合作,形成多个基于AI模型的联合解决方案,支持国内多个参数规模超过千亿级的AI大模型训练,可以攻克类脑智能、基因技术、自动驾驶等众多前沿领域的AI难题。

此外还有中国长城、神州数码、广电快报等。中国长城以其芯片、整机、服务器、网络等自主安全产品谱系逐渐成为相关市场交换机、路由器、工业控制系统以及灾难恢复和备份产品。主导产品AI服务器已实现量产。神州数码此前推出的鲲泰人工智能推理服务器,以“鲲鹏+升腾”为核心,可提供128个处理核心的算力。它还可以支持最多8张华为Atlas 300推理卡,并提供256GB推理缓存。以及最大704 TOPS INT8的AI算力。

总结

人工智能这几年发展迅速,作为算力支撑的AI服务器市场不断增大。如今,随着ChatGPT的普及,人工智能训练和推理将不断扩大,预计未来AI服务器市场规模将继续保持快速增长趋势。其中,布局已久的浪潮、曙光、宁昌、拓维信息无疑更具优势。

-->
登录后参与评论