作者:邬贺铨 来源:中国科学报 发布时间:2022/10/17 17:49:05
选择字号:
东数西算下算力发展的“数学题”与“算术题”

 

目前我国正在实施东数西算战略。在算力发展这个话题下,我谈一些对数据中心“数学”与“算术”的思考。这里的“数学”是指数据的科学,“算术”指的是算力的技术。

要分开:以算为主or以存为主

从2012年到2019年,科技巨头谷歌的算力需求6年间扩大了30万倍,约每三个半月翻一番。它为什么会有这么高的计算需求?人工智能驱动了算力的增长。

以OpenAI于2020 年发布的人工智能语言分析模型GPT-3为例,它的参数规模有1750亿个,有45TB数据,数学模型大小为700GB。微软专门为OpenAI打造的超级计算机,拥有28.5万个CPU和1万个GPU,供OpenAI在上面训练所有的AI模型,训练一次成本约为1300万美元。可见,人工智能的建模对计算能力有很高的要求。

目前算力可以分为基础算力(基于CPU芯片)、智能算力(基于GPU和NPU芯片)和超算算力(基于高性能计算机)。基于GPU/NPU/FPGA等构建的AI智算中心,更适于训练数据、导出模型。训练出数学模型后,后续利用模型对输入数据来计算AI决策结果,这时并不需要太高计算算力。所以通常是用基于CPU的通用计算来做在已知数学模型下的计算任务,可以理解为智算中心的功能主要是算,数据中心的的主要任务是存。

中国信通院数据显示,2021年全球算力分布为,美国占31%,中国占27%,其次是日本、德国、英国等其他国家。其中,美国的基础算力占全球35%,智能算力占15%,超算占30%,而中国这三类分别为27%、26%和20%。

可以看出,美国以基础算力为主,中国则是智能算力超过美国。中国的超算和智能算力中心是以政府为主,基础算力以运营商和互联网企业为主,美国则主要是互联网企业为主。

另外,中国三大电信运营商都做了云计算的能力和业务部署,全球其他运营商都没有此类布局,这与国外有所不同。

要关注:冷数据与热数据

从数据角度,大部分数据可以分为热数据和冷数据。热数据主要是一些需要实时计算的数据,相比之下冷数据不需要实时性。国家的八大算力枢纽,实际上西部主要是定位在处理冷数据和本地的一些热数据;而东部主要是处理热数据。

国际数据公司IDC提出,人类历史上90%的数据都是过去几年产生的,其中50%是短短过去两年产生的。最近产生的数据是热数据,但热数据经过一段时间之后,也会“降温”继而变成冷数据。一项统计认为,冷、温、热三类数据分别占累计数据量的80%、15%和5%,这意味着,冷数据是最多的、主要的。

热数据要求实时计算,但冷数据的需求主要是存储,或者说,对冷数据来讲计算并不是常态,存储是常态。东西部的算力中心,就分别更适合于热数据和冷数据,从这个意义上来讲,东数西算可以说是“东数西存”——主要是存,当然也有计算。

在计算架构上,主要有两种:存算分离、存内计算。

存算分离架构在控制单元指令下从存储器读数据并交到CPU计算,得到的结果再送回存储器。如此往复的I/O通讯,对于热数据的计算来说效率不高。

但存算分离有个优点,存储单元可以不仅服务于单个计算单元,可以同时服务多个服务器的计算,形成一个池化的存储,这样能够支持多云计算,实现较高利用率和低成本、低能耗。而这恰好适用于冷数据,例如可以用云平台建模,用边缘计算训练与仿真。

不过,热数据需快速计算,受限于存算分离I/O瓶颈,且CPU能力受累于存储器访问速度难以发挥,更需要存内计算。存内技术以随机存取存储器(RAM)替代硬盘,在RAM内完成所有运算。现在还有一些阻变存储器和相变存储器等新型非易失性存储器,已经在实验室中取得了突破,但大规模推广目前成本还较高。还有介乎于存内计算和存算分离之间的模式,如近存计算。

总体而言,存算分离适用于冷数据处理,存内计算适用于热数据。举个例子,自动驾驶的数据要在路边甚至在车内同时完成存与算。

西部以处理冷数据为主,但也需要处理当地的热数据,冷热数据是否需要分别采用不同的存算架构?这也是值得研究的问题。

要厘清:PUE与IT能效

现在数据中心都喜欢强调 PUE。PUE是数据中心能耗占IT系统能耗之比,反映了制冷系统的水平,但并非能衡量IT系统的能效。

衡量碳使用效率的指标是CUE,能更直观地反映数据中心的节碳水平。PUE与CUE在常规电力方面是等效的,但在使用“绿电”时,即使数据中心PUE很高,CUE也可以很低。因此,PUE低并不代表不耗能,因为IT系统也有能耗的。

据统计,数据中心IT系统的能耗中,服务器约占50%,存储系统约占35%,网络通信设备约占15%。数据中心需要7×24小时工作,但连续工作并不是连续计算,一般来讲,很多数据中心计算的时间占比不高,但是数据“睡觉”的时候也耗能——此时存储系统的能耗成为主体。所以麦卡锡报告称,数据中心大部分电能是用于维持服务器的,服务器大部分时间仅用于存储,约只有6%~12%用来计算。所以,降低存储的能耗非常重要。

要降低能耗,首先考虑冷数据存储,有人建议采用磁带代替磁盘。据估计100PB的数据存储如果全部用硬盘,10年的存储成本要1641万美元;而如果这些数据100%用磁带来代替,存储成本可下降73%。

目前磁带存储正被越来越多的科技公司所接受和应用。比如百度智能驾驶已全面开始使用磁带存储,对比之前的存储系统,整体成本下降了85%。

但对于热数据,人们希望越快越好,就用闪存来代替磁盘。它不但速度快,能效也好,但目前成本还比较高。

还有一种改进能效的办法是数据预处理。不是所有数据都是有用的,我们需要去掉一些无效值,如空格、有缺失的数据、过期数据等。另外,可以通过数据压缩算法把数据优化,还有合理安排数据存储的位置和调度,以比较精确地找出数据所存的位置,这样也可以减少能耗。

对“东数西算”的思考

东数西算使得算力设施的布局超越了数据中心枢纽的范畴,虽然设想东部与西部互为冷热数据的配对,但东部西部间应如何配比?

我注意到广东省关于数据中心规划,设计省内算力占70%,省外算力占30%。这与冷数据占比80%的客观情况有出入。按理说,省外多数是冷数据,冷数据占80%,但省外算力只有30%,这显然不能满足需要。或者,是不是可以理解为,80%的冷数据是指存储容量,而不是算力的比例?所以这是个问题。

另外在市场经济条件下,东西部的存算比例理应“配对”,但是,谁去管它们之间的存算匹配?如果任由各自独立的设计,怎么能做到容量最佳利用?这里也存在问题。因此,在“东数西算”推进过程中,需要进一步加强东部和西部算力枢纽、数据中心的协同。

同时,同一数据中心枢纽或集群内部也有很多比例需要优化。数据中心枢纽内有多个数据中心,每个数据中心内部又有多个业主:有腾讯建的、阿里建的,有电信建的,也有联通、移动建的,各建各的,各种各样,基本没有协商。那么,怎么协调它们的能源、土地、电力等的供应?怎么建立共享机制,以实现枢纽内各数据中心所需的能源与网络资源集约化,提升利用率?目前还没有这种机制。为此,需要建立“东数西算”跨域数据中心能力的协调,避免存、算资源不匹配。总之,“东数西算”还需要“懂数细算”。

此外,每一个数据中心还需要设计算力、存力和网络能力的合理比例以及相应的灾备比例。这是要跟冷热数据、大文件小文件数据是有关联的,不能“一刀切”。

从长远来看,数据中心越大型、能效越好,但也忌一步到位:一般而言,CPU的能力一年半就要换代,若超前建设,实际上是浪费的。Gartner认为,到2025年75%的数据要在边缘处理,只有25%的数据会送到云计算中心或数据枢纽上。如何协同边缘与中心云的算力比例?也是需要认真研究的命题。所以,关于数据中心的“数学”和“算术”,还有很多需要深入研究的内容,算力对我们来讲还是一个比较新的东西,我们要善于从实践中学习创新。

(作者系中国工程院院士,本报记者赵广立受权根据其在2022中国算力大会上的发言整理)

 
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
十大前沿纳米科技难题发布 植物在周末的“生产力”更高
森林得到恢复和保护将吸收2260亿吨碳 海洋“向日葵”:海葵
>>更多
 
一周新闻排行
 
编辑部推荐博文