宁畅双路机架式服务器R620 G30;宁畅柜机

宁畅R620服务器刷新24项SPEC世界纪录

近日，国际知名标准性能评测机构SPEC的CPU2017最新测试结果显示，宁畅的R620 G30服务器再次打破16项世界纪录，截至目前宁畅R620 G30服务器已拥有并保持24项世界纪录。

SPEC CPU2017是SPEC推出的CPU子系统测试工具，包括4类共43项测试。业界普遍认为，SPEC CPU2017测试可全面反映服务器性能，尤其是各种应用场景下实际运行系统能力。

宁畅产品破纪录分数对比

宁畅方面介绍，此次评测的R620 G30是基于英特尔至强第二代可扩展处理器的两个新型号。在同配置性能排名中，宁畅R620 G30在整数与浮点数、并发与单任务、基准值与峰值等6个维度共16项性能指标中排名世界第一。

SPEC官网显示的部分最新测试结果

宁畅R620系列服务器，采用2U双路结构设计，可成为IT业务负载核心单元，不仅为用户提供强劲算力支撑，还可提供IntelDCPMM、NVMe存储扩展，以及OCP网络扩展，依托QAT、VNNI等多种计算技术，以适配不同业务场景需求。此外，R620提供的管理平台，可覆盖RedFish、IPMI、SNMP等多种管理协议，提供健康状态监控和上报功能，实现产品智能运维，拥抱绿色节能的业务诉求。

宁畅R620机架2U双路服务器

R620突破SPEC世界纪录意味着相同配置下，宁畅R620计算性能更佳，用户选择购买R620可获得额外算力满足业务需求。目前以宁畅R620系列服务器为基础蓝本的众多定制化服务器已被诸多IT知名公司采购使用，累计出货量数以万计。

今年4月27日，宁畅收到成为SPEC的OSG（Open Systems Group）会员通知，打破“新创公司加入SPEC”最快纪录，成为OSG会员后宁畅可参与未来服务器等IDC产品的新性能测试标准制定。宁畅工程师表示，将进一步让CPU等核心部件性能发挥到极致，并通过提供硬件、软件、服务等定制化服务，降低用户总体拥有成本。（一鸣）

MLperf 30项性能第一 宁畅X640AI服务器拆机首测

无论是云计算、大数据，亦或是近两年兴起的人工智能，新一轮技术的发展均离不开算力作为支撑。以服务器为例，业务的发展对算力和IO读写能力都有着不小的要求，尤其是在深度学习和神经网络等领域，更对服务器提出了新的要求。

顺应AI时代需求，宁畅信息产业（北京）有限公司（以下简称“宁畅”）推出的X640 G30服务器，便是一款兼备训练与推理功能型的全能型GPU服务器。这款服务器采用双路英特尔至强可扩展处理器，支持多达8个训练GPU或16个推理GPU，专为高密度GPU计算提供全方位性能支持。还支持多种不同的GPU拓补结构，针对不同的应用和模型进行GPU互联优化，实现最高效的计算平台。

宁畅X640 G30 AI服务器

值得一提的是，不久之前，搭载NVIDIA T4/A100 GPU显卡的宁畅X640 G30在AI基准性能评测平台MLPerf的ResNet、BERT、DLRM等基准测试中取得30项世界第一的成绩。（）

没错，这次的主角就是它！

整体采用银白色设计

服务器前面板

将视线转移到机器背面板，可以很明显地看到大部分后面板都是密集的散热通道，4个电源接口，1个RJ-45管理端口，2个USB 3.0接口，两个LAN口和1个串口分布在下方。本次送测的服务器在实际评测过程中使用了1600W的电源，据官方介绍，宁畅X640 G30 AI服务器可选1600W或2000W CRPS高效白金电源，可选3+1冗余或者2+2冗余，电压范围100-240Vac，多种组合的冗余电源设计，充分考虑了不同配置AI服务器的负载情况，保障稳定性。

服务器后面板

宁畅X640 G30 AI服务器的接口组成很丰富。网络方面，宁畅X640 G30 AI板载集成千兆双口RJ45，可选万兆双口RJ45、25G双口光纤，万兆双口等多种网络接口，这样丰富的网口组合，保证了“道路”通常，让服务器性能可以全面发挥。

宁畅X640 G30 打开各个管理模块的方式十分便捷，还有图注。打开上部面板，首先看下总体做工，处理器、电源、风扇、GPU等各模块简洁明朗，同时线路收于一起，丝毫不显拖拉，设计、制造很到位。

人性化图示

内部结构

在风扇模块上，宁畅X640 G30 AI服务器采用了4个热插拔风扇模组，支持N+1冗余。

风扇模块

值得一提的是，除了支持传统风冷模组，宁畅X640 G30还支持“一体闭式循环液冷散热器”以及“分体式开环冷板液冷散热器”方案，不论多“猛”的GPU、CPU都可以镇住。

宁畅闭式/开式液冷散热方案设计图示（厂商提供）

NVIDIA Tesla T4

初次开机时，可以轻松进入BIOS界面为服务器安装操作系统。

开机时待宁畅Logo出现后可进入BIOS

BIOS界面

宁畅X640 G30 支持Microsoft Windows Server、Red Hat Enterprise Linux、SUSE Linux Enterprise Server、Ubuntu等多种操作系统，本次评测的环境为Windows Server 2019。

首先借助CPU-Z查看一下CPU基本信息。

服务器搭载英特尔至强金牌5220 CPU

CPU基本信息

CPU-Z得分

送评的宁畅X640 G30 AI服务器搭载的是两块Intel 至强金牌5220 CPU，14nm制程，主频2.2GHz，单个CPU 18核心36线程。使用CPU-Z测试，单核得分321.2分，多核得分7844.9分。

然后通过CineBench R20测试CPU性能，这也是一款饱受认可的软件。

CineBench R20得分

可以看到，宁畅X640 G30 AI服务器在模拟测试中，跑出单核268cb，多核10930cb的得分，多核分数十分恐怖。

接下来的测试项目是利用SiSoftware Sandra Lite 2020对宁畅X64 G30 AI服务器的算数、多媒体、加密、内存带宽/延时等进行全方位测试。

SiSoftware Sandra Lite 2020测试结果

可以看到，在算数性能、多媒体性能、内存延时、内存带宽以及缓存及内存测试方面，宁畅X640 G30 AI服务器的成绩都可圈可点，位于行业前列。

接下来则是本次测试的重头戏：宁畅X640 G30 AI服务器的GPU性能。

首先让我们看看宁畅X64 G30 AI服务器搭载的NVIDIA Tesla T4 GPU的基本信息。

GPU信息

Tesla T4与其他Tesla GPU数据对比

3D-unit神经网络测试结果

ResNet50残差网络测试结果

BERT语言模型测试结果

上文中也提到了宁畅X640 G30 AI服务器在MLPerf中的不俗表现，最高可支持10张NVIDIA A100 PCIe卡或21张NVIDIA T4 PCIe卡。在搭载四个A100 GPU的情况下，在MLperf的Resnet50、SSD、RNN-T、BERT、DLRM等10项测试中分数值取得世界性能第一；搭载16个T4 GPU配置的情况下，X640 G30打破六项世界纪录。在搭载21个T4 GPU配置下，亦取得14项性能第一。

总结：

通过上述外观、内部设计及整体实际性能的综合测试，可以看到，宁畅X640 G30 AI服务器无论是在计算、内存、和GPU方面的表现都十分不俗。

可以预见到的是，如此的性能猛兽，在未来几年内均可为企业数字化转型提供源源不断的算力，而强大的GPU运算能力，灵活可配置的计算性能，丰富的扩展，则可以在AI的应用场景中大显身手，让企业迈向智能化的道路更为通畅。

此外，人性化的设计以及扎实的做工，也彰显出宁畅这家初创公司所具备的大厂实力，为批量交付产品，提供了全面保障。纵观行业内，宁畅X640 G30是款竞争力极强的产品，结合宁畅的定制化服务，相信能有不错的市场表现。

MLPerf成绩冲入世界前三，服务器独角兽宁畅如何做到？

当人们认为服务器行业格局已定时，一位年轻的挑战者“宁畅”出现在我们视野。

这家成立仅18个月的服务器公司，今年7月初在一众老大哥聚集的行业顶级赛事MLPerf AI基准测试中突出重围，在MASK R-CNN、U-NET3D两个AI场景中拔得头筹。

业内资深分析师将宁畅喻为服务器独角兽，媒体更将其与行业龙头浪潮进行比较研究。

宁畅为什么能夺冠？宁畅又是一家怎样的公司？

带着这些疑问，智东西采访了宁畅相关负责人。经深入沟通，我们发现一场变革正席卷国内服务器市场。

近日MLPerf发布基于Training V1.0 最新标准测试结果。宁畅AI服务器X640 G40和X660 G45，分别以48.43、28.64成绩，取得固定任务（closed）赛道，单机服务器系统的MASK R-CNN、U-NET3D两项AI场景世界性能冠军。宁畅单机服务器系统AI性能冲入世界前三。

MASK R-CNN测试结果

U-NET3D测试结果

去年参加MLPerf Training 的组织只有9家，今年增长到了13家，不管是MLperf 中的常驻会员NVIDIA、 Intel、Google；还是新入场的Habana，GIGABATE，Graphcore等厂商都实力雄厚。

宁畅作为创业公司，在八个赛道中能取得两项单机服务器系统世界冠军，核心依托的是过硬的产品研发能力。

1、全栈研发破解“木桶效应”

宁畅介绍，随着AI技术不断发展，各大厂商都在发力AI服务器，行业竞争激烈。

AI服务器是相对复杂服务器产品，其性能遵从木桶效应，计算模块、存储模块、网络模块，散热模块等任何一个模块出现短板，都会影响整体性能。

正因如此，在单机服务器系统领域，能参加MLPerf Training测试并取得冠军成绩的初创企业极少，目前除宁畅外国内还没有第二家初创服务器厂商。

宁畅虽然是初创公司，但团队成员可谓是行业“老兵”。宁畅团队成员在服务器领域的平均工作经验超八年，核心员工不低于15年。

此外，宁畅具有全面的产品、技术与工程平台，从标准规范到BIOS软件设计，再到散热、电信号的模拟仿真，以及自动化压力测试，宁畅均具有全栈技术研发能力。

宁畅全栈研发平台

这使得宁畅的AI服务器整体性能强劲，在完成同等量AI模型训练任务时，可以“先人一步”。

如宁畅X640 G40是兼备训练与推理的全能型AI服务器，具备海量存储扩展能力，最大支持24块3.5寸硬盘。强劲性能、海量存储，使得X640 G40在训练MASK R-CNN模型时，一秒可完成57000张图片分析，以及570余次训练迭代。

X660 G45是高性能AI计算平台,GPU之间采用高达600GB/s 的NVLink总线高速互联。每个GPU上还可搭配专属的200G HDR高速网络和U.2高速缓存，在训练U-NET3D模型时，一秒可分析5040张X光照片，这是单机服务器的世界极限处理速度。

X640 G40和X660 G45

值得关注的，除MASK R-CNN、U-NET3D两个赛道外，在比较同功耗的GPU配置下，宁畅X660 G45在DLRM（推荐系统）、SSD（目标检测）固定任务赛道中，亦取得最好成绩。同GPU功耗配置下，宁畅其实获得的是八大赛道的四个冠军席位，取得数量同样是世界第一。

X660 G45在DLRM的成绩

X660 G45在SSD的成绩

除在MLPerf中获得世界第一，在国际计算机性能标准化评估组织(Standard Performance Evaluation Corporation,简称SPEC)推出的计算系统测试工具SPEC CPU2017中，宁畅R620 G40服务器，亦取得诸多优异成绩。

2、多次获得MLPerf、SPEC世界第一

在2021年6月的SPEC CPU2017测试中，在同CPU配置下，宁畅R620 G40服务器，从众国际厂商产品中脱颖而出，打破整数与浮点数、并发与单任务的基准值与峰值8项性能纪录，夺得世界第一。

宁畅R620 G40服务器

而在宁畅公司创立的2020年，宁畅R620 G30服务器就取得24项SPEC CPU2017世界性能第一成绩。

宁畅介绍，SPEC CPU2017是计算密集型测试基准，主要考验的是服务器系统的CPU、内存、操作系统等方面的性能水平。

SPEC CPU是长时间高压力的计算性能测试，CPU要维持高频工作，对服务器主板供电、散热都提出很高要求。

宁畅服务器采用先进散热系统，基于智能调速设计并结合Firmware优化，能保证CPU长时间工作在高频而不降频，这是保障SPEC PCU性能的关键所在。

在内存方面，影响SPEC CPU得分是内存的时延指标，通过优化，宁畅产品能做到高带宽的同时保证低延迟。

在R620 G40 中，两颗CPU之间数据最远端跨节点的访存延迟只有48.6ns（纳秒），相比行业同等标准快了将近一倍。

在操作系统层面,主要是优化内核参数。

操作系统内核参数较多，每一项要找到比较优化的值，既耗时又费力；宁畅采用自动化优化工具对内核参数进行批量优化，使得宁畅产品能在短时间内优化更多的内核参数。

宁畅优异的测试成绩，引起行业分析师的关注。

电子信息产业研究中心资深分析师袁钰表示，宁畅在AI加速服务器上的惊艳表现，足以说明其巨大的潜力，是近年来少有的服务器领域“独角兽”型企业。

而从宁畅对外公布的成绩来看，其成长速度确实惊人。

1、成长迅猛

据宁畅公司透露，其创立仅12个月，就有近千家企业、用户采购宁畅服务器产品。并收到定制咨询350余次，累计落地服务器定制方案170项，宁畅用户已覆盖互联网、金融、电信等数十个行业，出货量以万计。

宁畅速度

而根据国际数据公司（IDC）发布的《中国半年度加速计算市场（2020下半年）跟踪》报告显示，在AI加速器市场，宁畅公司的市场占有率已跻身中国前五。

2020年中国加速器市场份额

对于创立初年的优异表现，宁畅总结是对客户需求的准确把握并提供定制化方案，让宁畅成为深信服、Ucloud、苏宁科技集团、华数传媒等知名企业的主要服务器供应商。

而这些厂商采用宁畅服务器，最关键的是看重宁畅提供的服务器定制化能力。

2、服务器新蓝海

根据东方证券《电子行业深度报告》显示，预计到2024年中国5G用户将超过7.7亿人，大环境对数据处理的需求增长，正拉动服务器出货量猛增。

《中国互联网发展报告（2021）》统计，2020年我国人工智能产业规模为3031亿元，同比增长15%，这意味着更高的数据处理量，以及围绕不同AI场景的多样化算力基础设施需求。

不断升高的数据处理量，多样化的场景，使得标准化的服务器产品痛点愈发凸显，如潜在的资源浪费、运维过于复杂及与应用场景难匹配等。

因此整个服务器市场，正加速进入定制化时代。据IDC市场调研显示，全球服务器市场定制化产品采购份额已达30%以上。

早在2020年创立之初，宁畅便提出“定制”战略，从质量、技术、行业等维度，为互联网、电信、金融、医疗、教育等细分市场用户，提供从架构、FEA、运维到部署等全周期的定制保障服务。

2021年4月，宁畅又提出“智定+”战略，重点面向AI算力用户，依托“智慧研发”、“质能制造”、“至享服务”等服务与技术体系，真正赋能用户AI应用场景。

不难看出，宁畅高速成长背后正是抓住了服务器定制化蓝海的重要契机。

宁畅作为初创企业能在MLPerf Training中夺冠，可见其团队深厚的技术积累。

在服务器市场需求猛增的背景下，宁畅潜心定制化服务器领域，抓住自身核心优势，益是明智之选。

但纵观服务器头部企业，都在向上下游迅猛发展，芯片、云计算、分布式存储等都是各方布局已久的发力点。

宁畅公司未来是否要“出圈”发展，在本次采访中我们暂未得到明确答案。但服务器行业的变革已到来，相信在这场变革中，宁畅这家初创公司能带给我们更多“惊喜”。