业界最高密度，浪潮IPF2017发布单节点16 GPU的SR

本篇文章1863字，读完约5分钟

在最近结束的2017年Inspur云计算数据中心国家合作伙伴会议(ipf)上，Inspur坚持以计算+为重点的战略，进一步明确了其业务重点，以智能计算为重点，开发了开放和集成的计算生态系统，并在智能计算市场确立了领先地位。

智能计算的未来在于商业应用。随着人工智能应用的快速发展，人工智能所需的计算能力也急剧上升。此前，Inspur已部署在人工智能计算平台和架构中，并拥有一个完整的异构超级计算机服务器阵列，支持行业中的2、4和8个gpu卡。在此次ipf中，Inspur发布了业界最高密度的sr-ai机柜，支持16个gpu卡单点运行，进一步优化了ai计算硬件架构，改变了原有的cpu-gpu紧密耦合状态，实现了gpu资源的灵活池扩展。

人工智能已经成为未来社会发展的重要推动力

更复杂的人工智能应用需要更强大的计算平台

深度学习和浅层学习算法的概念已经提出多年，而人工智能只是在最近几年才逐渐升温，因为人工智能技术的进步受到计算平台性能和数据积累的限制。例如，从ibm深蓝战胜卡斯帕罗夫、Inspur Tissot战胜五位国际象棋大师，到Google alphago战胜围棋冠军李世石，用于解决问题的博弈树空已经扩展了237个数量级，这需要更优化的算法和更强大的计算平台来支持实时计算。

除了人工智能游戏，人工智能在现实生活中的应用也越来越广泛和复杂。从面部签到和打卡，到动作跟踪，再到无人驾驶汽车，更复杂的人工智能应用需要更强大的计算平台。传统的单机、单卡、2卡甚至8卡已经不能满足多样化的业务需求。Inspiron Sr-ai全机柜服务器可以满足当前快速扩展的ai计算能力需求，每节点16个卡的密度更高。

Sr-ai全机柜服务器

更高的密度+资源分离，性能是传统人工智能计算设备的10倍

这次，由Inspur和百度联合发布的sr-ai全机柜服务器符合最新的Scorpio 2.5标准，是世界上第一个采用pcie架构互连架构设计的ai方案。通过pci-e交换机和gpu盒的配合，打破了gpu和cpu之间的物理耦合，从而可以灵活扩展。与传统的gpu服务器相比，这是一个颠覆性的创新，它带来了高密度、低延迟和易于扩展等优势。

首先，传统的人工智能计算设备集群需要通过高速网络实现数据交互，这将带来超出用户水平的延迟。sr-ai机柜中的gpu盒之间的互连是通过pci-e交换机实现的，借助gpudirectrdma技术，可以大大降低跨节点的GPU之间的通信延迟，实现ns级网络延迟。

其次，sr-ai整体机柜的i/obox单节点可以实现支持16个GPUs的巨大扩展，通过pci-e交换机可以实现4个机箱和64个GPUs的级联，峰值处理能力达到512个触发器。

第三，sr-ai整体机柜的gpu资源扩展不需要同步配置高成本的it资源(如ib交换机)，成本可以优化5%以上，成本优势随着规模的增加而更加明显。

Sr-ai cabinet是一个针对较大数据集和深层神经网络的超大规模ai计算平台，能够高效支持复杂的深层学习离线模型训练任务，适用于图像识别、语音识别、自然语言处理、搜索和排序等ai应用。百度实际业务测试数据表明，sr-ai机柜的性能比传统ai方案高出5-10倍！

高效的开发框架+算法协同优化，最大化人工智能计算效率

与cpu的几个逻辑运算单元相比，协处理加速设备gpu\fpga\mic是一个巨大的计算矩阵，可以实现10-100倍的应用吞吐量。但与此同时，这种巨大的并行能力需要付出代价:它需要强大的软件开发能力和算法优化能力。

为此，Inspur开发了高效的深度学习框架caffe-mpi，并与众多开发人员一起对其进行了优化，从而为深度学习用户提供了一种更加便捷高效的应用手段。Inspur caffe-mpi可以在保证相同正确率的情况下，将16张卡片的性能提高13倍，并增加对cudnn库的支持，使程序开发人员可以轻松实现高性能深度学习代码的开发。

在算法方面，Inspur在gpu加速流量特性分析技术上与客户合作，通过软件、硬件和算法的协同优化，训练时间为24万个样本的单节点4gpu比单个gpu提高了3倍，单机4gpu卡的程序性能比原版本提高了270倍。

数据显示，2016年，Inspur在人工智能计算领域的市场份额超过60%。对于百度、阿里巴巴、腾讯、奇虎、iFlytek和face++等中国人工智能企业，它提供基于gpu、fpga和knl的协同处理加速服务器，以及caffe-mpi等软件和算法优化。