浪潮信息赵帅:融合架构3.0原型系统有望缓解AI算力瓶颈
- 来源: 财经网 2023-08-16 16:59:28
2023年8月10日,在北京举行的第五届OCP China Day 2023(开放计算中国技术峰会)上,浪潮信息正式推出融合架构3.0原型系统。相比传统服务器,融合架构3.0原型系统具有系统级多元异构融合、机柜级解耦和池化以及资源异步升级等优势,有效缓解当前数据中心 "内存墙"、"I/O墙"、"功耗墙"等瓶颈挑战。
智算时代,计算体系架构亟待突破
当前,人工智能三要素中,算力的瓶颈愈发凸显。
【资料图】
随着AIGC浪潮的出现,极大推动了大模型、人工智能的发展与创新。大模型的参数量持续增加,对于内存的需求也随之增加,但当前计算单元内存容量明显不足,且CPU主内存与异构加速器内存互相隔离,无法进行统一寻址和高效协同;与此同时,大模型训练属于典型的带宽敏感型的计算场景,在海量参数模型的并行训练下,会产生梯度数据聚合与分发等海量通信需求,需要高带宽系统保证算力提供;此外,大模型日常的训练与推理需要耗费大量算力资源,随之而来的就是极高的能耗表现。
与此同时,在算力供给侧摩尔定律逐渐放缓和登纳德缩放定律走向终结,现有的计算体系架构先天性不足被成倍放大,数据中心计算体系架构的创新已迫在眉睫。
浪潮信息服务器产品线总经理赵帅表示:"当前数据中心遇到的 "内存墙"、"I/O墙"、"功耗墙"等现象,并不是孤立存在,它们是现有计算体系架构不足放大后的体现。只有通过计算体系架构的整体创新,才能彻底解决各种瓶颈带来的挑战。"
融合架构3.0:以数据为中心的新架构
在此背景下,浪潮信息推出融合架构3.0原型系统,实现计算资源、内存资源、异构加速资源、存储资源的硬件解耦,通过软件定义系统设计,实现资源协同动态调度,以一套系统满足多种应用需求。同时,系统融合不同架构和不同指令集的异构算力,根据应用场景灵活调配资源,实现池化资源的异步升级。
浪潮信息服务器产品线总经理赵帅在接受媒体采访时表示,在AI算力需求日益高涨的当下,浪潮信息认为解决途径之一是最大程度的释放算力,解决影响算力发挥的瓶颈问题,能够让算力更快、更好的让需要的人用到,同时避免算力的浪费。浪潮信息一直努力用系统建设方案去释放算力的最大价值。
与以CPU为中心的计算架构不同,融合架构3.0原型系统以数据为中心,实现计算节点内部各种算力芯片共享内存数据、统一编址和协同工作;在跨节点之间则通过智能数据处理单元和高速网络形成分布式互连交换,实现CPU、GPU、FPGA等各种加速芯片的算力协同以及内存池化、新型存储资源池化,具有节点间的数据访问延迟极低,支持高效弹性扩展等优势。此外,融合架构系统可以实现更为灵活的资源重构,为人工智能等多种应用场景提供强大的算力支撑。
内存解耦与池化一直是业界的热点与难点,随着以CXL为代表的串行缓存一致性总线的出现,给主机和远端共享内存之间提供了低延时的访问路径以及缓存一致性保证,为大规模内存扩展与内存资源池化提供了可能。融合架构3.0原型系统突破内存解耦池化关键技术,研制新型应用串行缓存一致性总线及其交换技术的内存模组和内存池化系统,保障主机系统对大容量、高带宽内存的应用需求。
赵帅介绍,融合架构3.0原型系统首创JBOM独立内存资源池设计,创新实现标准服务器高密度内存扩展方案,主机系统远端内存扩展技术领先业界。通过软件定义系统设计及CXL高性能交换技术,率先实现内存资源池化与细粒度多主机共享。
系统互连设计方面,解耦与池化带来了新的互连挑战,整系统通过设计供电控制、复位、时钟锁定等协同工作方式实现解耦单元整体运行。此外,随着数据速率的不断攀升和系统链路变得更加复杂,解耦池化系统互连链路互连延展已经接近极限,系统针对复杂链路高速互连进行高精度的拟合仿真研究,准确分析系统互连链路多样化拓扑和传输速率的极限。
此外,融合架构3.0原型系统开发软件定义管理系统,实现拓扑切换、端口动态管理、多主机资源共享与资源动态分区等高级功能;开发资源管理软件,实现设备利用率监控、设备分配情况配置与管理、I/O吞吐量监控和链路健康诊断,保障主机系统硬件资源的动态部署与高效管理。
赵帅表示:"融合架构3.0原型系统效率可比上一代软件虚拟化系统提升一到两个数量级,可扩展性提高2~4倍,系统延时降低90%,PUE低于1.1。随着数字经济、人工智能持续发展,企业的各项业务越来越依赖数据及其价值,算力技术也需要不断演进,融合架构3.0原型系统的发布,有助于企业提升数据管理效率,最大化释放数据价值。"
标签:
【免责声明】
1、凡本网注明出处非(巨潮财经网)的作品,均转载于自其它媒体,并不代表本网赞同其观点和对其真实性负责,目的在于信息的传递,本网不承担稿件侵权行为的连带责任,如对稿件有质疑请与本网客服联系。
2、刊发此文目的在于传递更多信息,文章内容仅供参考,不构成投资建议,投资者据此操作,风险自担。
3、如涉及作品内容、版权等其它问题,请在15日内联系本网客服。
-
浪潮信息赵帅:融合架构3.0原型系统有望缓解AI算力瓶颈
2023年8月10日,在北京举行的第五届OCPChinaDay2023(开放计算中国技术
2023-08-16 16:59:28
-
钉钉个人版开放内测,没有已读没有打卡等功能
财经网科技讯,8月16日,钉钉个人版正式启动内测,所有人可在钉钉官网
2023-08-16 16:53:55
-
腾讯控股二季度营收1492亿元,同比增长11%
财经网科技8月16日讯,腾讯控股今日发布了截至6月30日的2023年第二季度
2023-08-16 17:03:42
-
财面儿丨远洋集团:2024年到期票据将于8月17日举行持有人会议 达成可豁免违约事件
财经网讯8月16日,远洋控股集团(中国)有限公司发布关于境外关联公司有
2023-08-16 15:58:09
-
宁德时代发布全球首款磷酸铁锂4C超充电池
财经网汽车8月16日讯宁德时代发布新产品神行超充电池,这是全球首款磷
2023-08-16 15:54:06
-
浪潮信息赵帅:融合架构3.0原型系统有望缓解AI算力瓶颈
2023年8月10日,在北京举行的第五届OCPChinaDay2023(开放计算中国技术
2023-08-16 16:59:28
-
推动新能源汽车下乡 三年内浙江将在乡村至少建90万个充电桩
财经网汽车8月16日讯从浙江省新能源汽车下乡行动新闻发布会获悉,为扩
2023-08-16 16:58:18
-
性能手机引领者一加 Ace 2 Pro 正式发布 售价 2999 元起
2023年8月16日,一加正式发布Ace系列的最新产品一加Ace2Pro。一加Ace2P
2023-08-16 16:58:16
-
京西重工获欧洲某车企线控制动项目订单
财经网汽车8月16日讯近日,京西重工获得欧洲知名汽车集团线控制动项目
2023-08-16 17:00:03
-
钉钉个人版开放内测,没有已读没有打卡等功能
财经网科技讯,8月16日,钉钉个人版正式启动内测,所有人可在钉钉官网
2023-08-16 16:53:55
-
腾讯控股二季度营收1492亿元,同比增长11%
财经网科技8月16日讯,腾讯控股今日发布了截至6月30日的2023年第二季度
2023-08-16 17:03:42
-
河南:到2025年基本建成覆盖全省的智能充电网络
财经网汽车8月16日讯河南省人民政府办公厅印发河南省电动汽车充电基础
2023-08-16 16:56:31
-
荷兰经济意外陷入衰退 受消费支出及出口疲软拖累
由于消费者支出和出口疲软,荷兰经济出人意料地陷入疫情以来的首次衰退
2023-08-16 16:02:35
-
快讯 | 海底捞回应洗头发服务:是门店进行的个性化创新试点
财经网产经讯8月16日, 海底捞可以洗头发了 、 海底捞洗头发或全国推广
2023-08-16 15:54:06
-
国家发改委:推进虹桥国际开放枢纽区域内智能网联汽车测试牌照和测试结果互认互通
财经网汽车8月16日讯,国家发改委印发《关于推动虹桥国际开放枢纽进一
2023-08-16 15:53:23
-
财面儿丨远洋集团:2024年到期票据将于8月17日举行持有人会议 达成可豁免违约事件
财经网讯8月16日,远洋控股集团(中国)有限公司发布关于境外关联公司有
2023-08-16 15:58:09
-
宁德时代发布全球首款磷酸铁锂4C超充电池
财经网汽车8月16日讯宁德时代发布新产品神行超充电池,这是全球首款磷
2023-08-16 15:54:06
-
服务零售额首度被纳入国家统计数据,服务零售今年同比增速明显快于商品零售
继社会消费品后,服务零售首度被纳入经济运行统计数据,服务消费成为未
2023-08-16 15:56:40
-
穆迪分析:中国2023年底将取代日本成全球最大汽车出口国
财经网汽车8月16日讯据穆迪分析(Moody’sAnalytics)称,到2023
2023-08-16 15:51:11
-
中国摩托车商会:7月摩托车产销环比增长 外贸出口继续保持恢复态势
财经网汽车8月16日讯据中国摩托车商会统计,7月我国摩托车产销量环比增
2023-08-16 15:55:51
-
柳青 将任新职
8月16日,波音公司宣布柳青先生将担任波音中国总裁,该任命将于9月1日
2023-08-16 15:51:02
-
解码斗鱼(DOYU.US)二季报,净利润大增161%,收入结构优化成关键
被低估的斗鱼们,在新业态下,凭借一系列精细化运营,自然会获得更广泛
2023-08-16 15:16:19
-
首惠产业金融(0730.HK)中期净利增长不低于115% 贯通产业与金融迎来变革时刻
2023年,首惠产业金融的加速起跳,让金融市场和创新的供应链金融产业看
2023-08-16 15:14:16
-
多家公司吐槽LOGO变视觉中国版权图,连百度都“中招”了
“真的是离谱了!”“这些所谓的‘侵权照片’竟然是我自己拍摄的作品。
2023-08-16 14:55:19
-
比亚迪审计监察处:鼓励举报腐败行为 最高奖500万元
财经网汽车8月16日讯,比亚迪审计监察处发布消息称,公司鼓励全体员工
2023-08-16 15:02:28
-
央行果断降息,存量房贷降息要抓紧了!
8月15日,央行意外 "降息 "了,1年期中期借贷便利(MLF)利率下降15基
2023-08-16 15:03:55
-
25家上市券商“中考”放榜 业绩预喜数量占超九成
8月14日晚间,华泰证券股份有限公司(以下简称 "华泰证券 ")等6家上市
2023-08-16 14:57:16
-
农产品市场喜忧参半!玉米跌至2020年12月以来新低
由于天气改善带来的玉米长势提振,8月15日周二,芝加哥玉米基准期货下
2023-08-16 15:01:14
-
瞄准暑期消费新动向 马上消费助力新市民 “能消费、敢消费、愿消费”
随着国内经济逐渐复苏,消费市场逐渐回暖。为了进一步释放消费潜力,促
2023-08-16 15:04:11
-
登陆央视1套,看仰韶的“大国品牌”之路!
8月15日,仰韶酒业品牌片正式登陆CCTV-1。仰韶品牌故事片集中展现了
2023-08-16 14:47:36
-
视觉中国被索赔8万元 程序员:我全赔!
近日,知名摄影师及微博博主“@Jeff的星空之旅”爆料,其亲自拍摄的照
2023-08-16 14:11:01
-
聚焦战略市场、拓展“朋友圈”!郎酒股份河南省推介座谈会举行
2022年,郎酒营收正式突破200亿,创下了历史新高。在量变达到质变的关
2023-08-16 13:57:36
-
特斯拉下调Model S/X售价
财经网汽车8月16日讯据特斯拉官方,特斯拉再次降价,ModelS现车75 49万
2023-08-16 13:52:42
-
行业唯一!小仙炖鲜炖燕窝获评国家级电子商务示范企业
近日,商务部公布入选电子商务示范企业名单,全国共132家企业入选。小
2023-08-16 14:00:02
-
Keep午间收盘报37.2港元/股,涨超8%,88全民健身日多城活动陆续开展
8月16日,KEEP(03650)再涨超8%,截至午间收盘,Keep股价报37 2港元 股
2023-08-16 14:02:52