分享
中新经纬>>原创>>正文

为孕育大模型营造“肥沃土壤”,京东云发布数智算力矩阵

2023-09-26 18:10:20 中新经纬

  中新经纬9月26日电 人工智能浪潮迭起,大模型持续“涌现”。大模型的训练与应用对数字基础设施提出了更高的要求——更强算力、更大存力、更加易用、更低门槛的数字基础设施,是建好大模型、用好大模型的前提。

  9月26日,京东云城市大会西安站圆满落幕。基于多年来对研发大模型的能力积累和对行业需求的理解,京东云在会上重磅发布数智算力矩阵。从MaaS服务到到智算集群,再到硬件基础设施,京东云为千行百业不同需求的客户,打造一站式大模型服务,为孕育大模型提供“肥沃土壤”,筑牢产业发展的数字基底。

  为了应对大模型训练资源稀缺,以及缺乏专业开发人员等问题,京东云将京东大模型能力开放出来,将开发大模型的底层能力解耦,推出言犀AI开发计算平台,提供一站式模型训练推理能力。

  超算资源的成本、模型计算效率、资源弹性等都成为制约大模型训练的关键因素,京东云高性能计算集群、超低延迟网络、高性能分布式存储等,提供极致的数字基础设施能力,并基于混合多云操作系统,对异构资源进行灵活调度,更好地满足大模型的算力需求。

  在底层硬件层面,京东云提供硬件/网络算力资源、智能算力模块,以及算力中心和边缘节点等能力,为大模型训练提供坚实的保障。

  此外,京东云完善的安全体系,可有效保障客户云上云下整体资产应用和业务系统的安全稳定,为大模型服务保驾护航。

  AI开发计算平台 让大模型“触手可及”

  目前,言犀AI开发计算平台已正式上线,提供公有云版、私有化部署版、API接口等多种服务方式,为客户的大模型开发和行业应用,提供一站式的解决方案,让大模型的能力轻松触达每一位开发者。

  将大模型能力应用到产业领域,实现垂直行业的“智能涌现”,并非易事。高质量的行业知识作为稀缺要素,决定了大模型的“智商”。言犀AI开发计算平台具备丰富的行业知识库,京东在零售、物流、健康、金融等行业多年积累的知识都沉淀在平台上。

  同时,平台不仅提供京东自研的言犀大模型,也支持行业各类开源通用模型;此外,平台精选了京东技术团队多年来开发出的100多种训练和推理优化工具,可提供更加高效的大模型开发环境,让用户可以快速地把通用模型,转化成适合自身场景的专业模型,尤其是面对没有代码开发经验的应用开发者,平台低代码的开发方式,进一步降低门槛,让大模型真正变得“触手可及”。

  通过言犀AI开发计算平台,不到一周时间,即可完成从数据准备、模型训练、到模型部署的全流程;之前需要10余人的科学家团队工作,现在只需要1-2个算法人员;通过平台模型加速工具优化,节约90%的推理成本。

  高性能计算集群 打造大模型网络“高速公路”

  算力集群的灵活调度,是大模型训练的底层基础。全新的云舰异构资源池化解决方案,在原有支持混合多云CPU+GPU异构算力池化能力基础上,针对大模型场景,支持训练+微调+推理混合部署,进一步增加了针对AI应用所需的调度管理能力,提供一站式算力池化解决方案,算力利用率提升70%,从而全面推动大模型应用落地降本增效。

  大模型训练本身带来的高昂成本,让很多企业想用不敢用,兼具高性价比和高性能的计算集群,对降低大模型训练成本尤为重要。

  京东云高性能计算集群HPC,使用了高速RDMA网络互联的弹性服务器集群,提供高计算性能和并行加速效率的弹性计算服务。在算力层面,京东云提供的超级计算集群、京刚裸金属、第五代云主机等多种高性能产品形态,可提供极致算力,最大支持十万级GPU节点规模;在网络层面,京东云自研RDMA拥塞算法,全局调控RDMA网络流量路径,不同GPU节点最大支持3.2Tbps RDMA网络带宽,传输时延低至2 us左右。

  大模型需要大规模的算力,由此也带来海量的存储需求,云海作为京东云自主研发的高性能、高稳定、低成本分布式存储产品,历经10余年京东自身复杂场景的历练,能够满足大模型所需要的海量数据存储需求,并提供超大量数据传输所需的极致性能。同时,存算分离的技术架构,可为客户节省整体基础设施成本超30%,现已在高性能计算、AI训练等新兴场景以及音视频存储、数据报表等传统场景广泛应用。

  智能算力模块 筑牢大模型坚实底座

  随着大模型等系列AIGC产品的应用落地,对于AI服务器的需求快速提升,且AI服务器中大量使用高功率CPU、GPU芯片,带动单台AI服务器功耗不断上升,因此提高单机柜功率密度,成为调和快速增长的算力需求,与有限的数据中心承载力之间的有效方案。

  基于多年算力基础设施部署交付的最佳实践,京东云在业内率先推出“阿尔法”智能算力模块高功率密度解决方案,含括风冷型智能算力模块及液冷型智能算力模块双系列产品,可实现智能高算力应用业务部署的安全、稳定、高效节能运行。

  京东云液冷型智能算力模块,可全面兼容GPU、CPU服务器,PUE制冷因子可降低至0.1以内,并支持风冷、液冷系统一体化交付,预制模块化部署,全面满足算力密度20-100kW/柜数据中心部署需求。

  共创共建,探索大模型落地

  目前,京东云以前沿的数智技术,共服务100座城市、2500余家大型企业、944家金融机构和超250万家中小微企业。具体到陕西省,京东云为“中国西部能源航母”陕煤集团搭建了运销云,促进煤炭行业数字化转型和国家能源供应的改善,推动陕煤业务流程缩短了40%;此外,京东云已与陕数集团达成合作,针对政府及重点国企数据及关基防护的需求,推进密改、密评及相关业务合作,持续深化在智慧物流、大数据等创新应用等方面的业务合作。

  会议当天,京东云还与陕数集团、农信通集团、宁算科技集团、青山湖产控、智云天工、兰杜科技进行合作签约,携手探索数智技术在产业端的落地,塑造全新增长空间。

  技术只有在产业端形成扎实的应用,才能勾画出一条以实助实的产业价值创造路径。面向未来,京东云愿与合作伙伴一道,以极致性价比的数字基础设施助推大模型抵达产业智能。(中新经纬APP)

来源:中新经纬

编辑:郑铮

广告等商务合作,请点击这里

未经过正式授权严禁转载本文,侵权必究

中新经纬版权所有,未经书面授权,任何单位及个人不得转载、摘编或以其它方式使用。
关注中新经纬微信公众号(微信搜索“中新经纬”或“jwview”),看更多精彩财经资讯。
关于我们  |   About us  |   联系我们  |   广告服务  |   法律声明  |   招聘信息  |   网站地图

本网站所刊载信息,不代表中新经纬观点。 刊用本网站稿件,务经书面授权。

未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任。

[京B2-20230170]  [京ICP备17012796号-1]

违法和不良信息举报电话:18513525309 报料邮箱(可文字、音视频):zhongxinjingwei@chinanews.com.cn

Copyright ©2017-2023 jwview.com. All Rights Reserved


北京中新经闻信息科技有限公司