基于优先级的超算节点使用方法、电子设备和存储介质与流程



1.本发明涉及大数据处理领域,特别是涉及一种基于优先级的超算节点使用方法、电子设备和存储介质。


背景技术:



2.随着超级计算的应用与推广,超算用户的逐年增加,超算上提交的任务量也越来越多。虽然超级计算有强大的计算能力和巨量的计算资源,但计算资源并非无穷多,为使有限的计算资源,满足日益增长的计算任务需求,需要对超算资源进行科学的统筹分配,以达到超算资源高效利用的目的。用户使用超算资源的需求存在差异,资源需求场景具有多样性:有时,用户计算任务数量不多,但是单个计算任务的计算量非常大;有时,用户计算任务数量非常多,但是单个计算任务的计算量不大;有时,用户虽然计算数量不多,且单个计算任务计算量不大,但是计算任务非常紧急,需要快速分配计算资源;有时客户计算任务多,计算量大,且计算紧急等。面对计算资源多场景使用需求,如果对用户使用资源没有优先级或其他限定,就会导致计算资源分配不合理:一些任务占用大量计算节点,但是任务并不紧急,但是一些需要紧急计算的任务,却因为节点被大量占用而不能及时分配计算节点。


技术实现要素:



3.针对上述技术问题,本发明采用的技术方案为:本发明实施例提供一种基于优先级的超算节点使用方法,包括以下步骤:s100,在检测到存在未处理的计算任务时,执行s200。
4.s200,基于当前未处理的计算任务和m个预设超算节点使用优先级信息表,获取按优先级从高到低的顺序排列的待计算任务组集c=(c1,c2,

,ck,

,cl);其中,第i个预设超算节点使用优先级信息表的第j行包括(w
ij
,a
ij
,t
ij
,e
ij
),w
ij
为第i个预设超算节点使用优先级信息表中的第j个任务类型,a
ij
为w
ij
对应的任务量,t
ij
为w
ij
对应的平均单个任务计算耗时,e
ij
为w
ij
对应的任务属性, w
ij
对应的优先级为pi,i的取值为1到m,j的取值为1到f(i),f(i)为第i个预设超算节点使用优先级信息表的任务类型数量;p1>p2>

>pj>

>pm;第k个任务组ck=(ck1,ck2,

,ckr,

,ck
f(k)
), ckr为ck中的第r个待计算任务集,ckr=(idckr,rck
r1
,rck
r2


,rck
rb


,rck
rh(k,r)
),idckr为ckr对应的用户id,rck
rb
为ckr中的第b个待计算任务,ckr的优先级为gk,ckr的执行顺序为r,k的取值为1到l,l为c中的待计算任务组的数量,l≤m;r的取值为1到f(k),f(k)为ck中的待计算任务集的数量,b的取值为1到h(k,r),h(k,r)为ckr中的待计算任务的数量。
5.s300,获取可使用超算节点,并利用获取到的可使用超算节点对c中的待计算任务依次进行处理。
6.s300具体包括:s310,获取从任务计算节点中释放的超算节点,得到可使用超算节点;s320,如果当前处理的ckr对应的任务量和平均单个任务计算耗时满足第一设定
条件,执行s330;如果满足第二设定条件,执行s340;否则,执行s360;s330,如果ckr中已计算的任务数量q(k,r)<d1,则利用可使用超算节点继续计算ckr中的d1-q(k,r)个待计算任务,执行s350;如果q(k,r)=d1,执行s350;d1为第一设定阈值;s340,如果ckr中已计算的任务数量q(k,r)<d2,则利用可使用超算节点继续计算ckr中的d1-q(k,r)个待计算任务,执行s350;如果q(k,r)=d2,执行s350;d2为第二设定阈值;s350,将ckr的执行顺序调整为f(k),并将ck中除ckr之外的待计算任务集的执行顺序分别增加1;执行s370;s360,利用可使用超算节点对ckr中的待计算任务进行计算,在ckr中的所有待计算任务计算完后,执行s370;s370,设置r=r+1;如果r≤f(k),执行s320,否则,执行s380;s380,设置k=k+1;如果k≤l,执行s320;否则,退出控制程序。
7.本发明实施例还提供一种非瞬时性计算机可读存储介质,所述存储介质中存储有至少一条指令或至少一段程序,所述至少一条指令或所述至少一段程序由处理器加载并执行以实现前述方法。
8.本发明实施例还提供一种电子设备,包括处理器和前述的非瞬时性计算机可读存储介质。
9.本发明至少具有以下有益效果:本发明实施例提供的基于优先级的超算节点使用方法,在出现任务排队时,能够基于用户提供的计算任务的数量、平均单个任务的计算耗时和任务紧急情况来分配超算节点,从而能够使得超算节点的使用变得更加合理。
附图说明
10.为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
11.图1为本发明实施例提供的基于优先级的超算节点使用方法的流程图。
具体实施方式
12.下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
13.本发明实施例提供一种基于优先级的超算节点使用方法,会基于用户发送的待计算任务和当前可使用超算节点,为每个任务分配超算节点。在超算节点充足的情况下,会根据计算任务的提交时间,按照先提交先计算的原则分配超算节点。在当前可使用超算节点不足时,即出现待计算任务处于排队状态时,会基于设定的优先级机制分配节点资源。具体
地,如图1所示,所述方法可包括如下步骤:s100,在检测到存在未处理的计算任务时,执行s200。
14.在本发明实施例中,首次出现未处理的计算任务的情况可包括:当前可使用超算节点的数量小于当前接收到的待计算任务所需的超算节点数量,或者,当前可使用超算节点数量为0。
15.s200,基于当前未处理的计算任务和m个预设超算节点使用优先级信息表,获取按优先级从高到低的顺序排列的待计算任务组集c=(c1,c2,

,ck,

,cl)。
16.在本发明实施例中,第i个预设超算节点使用优先级信息表的第j行包括(w
ij
,a
ij
,t
ij
,e
ij
),w
ij
为第i个预设超算节点使用优先级信息表中的第j个任务类型,a
ij
为w
ij
对应的任务量,t
ij
为w
ij
对应的平均单个任务计算耗时,e
ij
为w
ij
对应的任务属性,w
ij
对应的优先级为pi,i的取值为1到m,j的取值为1到f(i),f(i)为第i个预设超算节点使用优先级信息表的任务类型数量;p1>p2>

>pi>

>pm,即m个预设超算节点使用优先级信息表按照优先级由高到低的顺序依次排列。
17.第k个任务组ck=(ck1,ck2,

,ckr,

,ck
f(k)
), ckr为ck中的第r个待计算任务集,ckr=(idckr,rck
r1
,rck
r2


,rck
rb


,rck
rh(k,r)
),idckr为ckr对应的用户id,rck
rb
为ckr中的第b个待计算任务,ckr的优先级为gk∈(p1,p2,

,pj,

,pm),ckr的执行顺序为r,ck中的待计算任务的执行顺序按照提交时间的先后顺序进行排列,即先提交的任务的执行顺序大于后提交的任务的执行顺序,k的取值为1到l,l为c中的待计算文件的数量,l≤m;r的取值为1到f(k),f(k)为ck中的待计算任务集的数量,b的取值为1到h(k,r),h(k,r)为ckr中的待计算任务的数量。
18.在本发明实施例中,任务属性可基于实际需要进行设置,在一个示意性实施例中,可包括重点紧急、重点不紧急、非重点紧急、非重点不紧急等四种情况。其中,重点是指计算任务为国家重大专项、企业重点研究项目。紧急为用户急需计算的任务。在该实施例中,可包括3个预设超算节点使用优先级信息表,即m=3,具体地,第一预设超算节点使用优先级信息表可如下表1所示:表1 第一预设超算节点使用优先级信息表其中,d为设定任务数量阈值,可基于实际情况进行确定,例如,d为大于10的数。t为设定的单个任务计算耗时阈值,可基于实际情况进行确定,例如,t为大于12小时的数。
19.第二预设超算节点使用优先级信息表可如下表2所示:表2 第二预设超算节点使用优先级信息表
第三预设超算节点使用优先级信息表可如下表3所示:表3 第三预设超算节点使用优先级信息表在本发明另一个示意性实施例中,所述任务属性可包括锁定计算、重点紧急、重点不紧急、非重点紧急、非重点不紧急等五种情况。其中,锁定计算是指需要使用锁定节点进行计算的项目。在该实施例中,可包括4个预设超算节点使用优先级信息表,即m=4,具体地,第一预设超算节点使用优先级信息表可如下表4所示:表4 第一预设超算节点使用优先级信息表也就是说,不管用户的任务量和平均单个任务计算耗时为多少,只要任务属性为锁定计算,则为第一优先级。在本发明实施例中,锁定计算需要用户向超算平台进行申请。在一个示例中,每个用户申请的锁定计算仅适用于申请用户。在另一个示例中,每个用户申请的锁定计算可适用于该用户本身及其关联用户,需要在申请时进行说明。
20.在本发明实施例中,任务属性可在用户向超算平台提交任务时进行说明。
21.在本发明实施例中,ckr中待计算任务按照提交时间由早到晚进行排序。在本发明实施例中,处理器每次接收到新的节点的时候,会将新的节点加入到c中以更新当前的c,以
确保后提交的优先级高的任务能够得到及时处理。
22.在s200中,gk基于如下步骤得到:s201,从当前正在计算的任务中获取属于idckr的计算任务数量h1(k,r)以及从当前未计算的任务中获取属于idckr的计算任务数量h(k,r)。
23.s202,获取idckr对应的当前任务属性e(k,r)、idckr提交的总计算任务的任务量d(k,r)以及idckr的平均单个任务计算耗时t(k,r),其中,d(k,r)=h1(k,r)+h(k,r),t(k,r)=()/d(k,r),t(k,r)u为idckr当前提交的总计算任务中的第u个计算任务的计算耗时。
24.在本发明实施例中,t(k,r)u基于设定的计算耗时预测模型得到。具体地,可包括:s2020,获取idckr当前提交的总计算任务中的第u个计算任务的时间控制要素和计算使用资源;s2021,将第u个计算任务的时间控制要素和计算使用资源输入到所述设定的计算耗时预测模型中,得到对应的预测计算耗时tc(k,r)u。
25.在本发明实施例中,t(k,r)u=tc(k,r)u。
26.在本发明实施例中,当超算中心接收到用户提交的新的计算任务时,会从该计算任务中提取时间控制要素和计算使用资源。
27.在本发明实施例中,时间控制要素可包括模型求解器类型、模型网格数量、网格类型、非线性求解设置、计算精度设置等,这些时间影响因素都可以根据对应的软件的控制文件的特点在计算任务的控制文件中直接提取得到。计算使用资源为使用的超算资源,可包括节点数和核数,计算使用资源和计算耗时可以在超算中心后台获取得到。
28.在本发明实施例中,设定的计算耗时预测模型基于已经计算成功的n个计算任务的时间控制要素、计算使用资源和计算耗时构建。
29.在本发明实施例中,n个计算任务可包括不同工业软件不同版本的计算任务。在本发明实施例中,计算任务为完整的仿真任务。计算使用资源的单位为核小时。在本发明实施例中,核小时(core time)可为本领域通常定义,例如,为用来运行模拟或者渲染的处理器单元(核心)的数量乘以计算工作的持续时间(小时数)。例如,使用100台各具有8个核心的计算机跑上100小时,或200台各具有4个核心的计算机跑上100小时,都是80000核小时。
30.在本发明实施例中,可通过汇总得到每个计算任务的时间控制要素、计算使用资源和任务最终的计算耗时。基于大数据分析技术,对汇总数据进行数据分析,建立时间控制要素、计算使用资源、计算耗时之间的联系,以实现当时间要素和计算使用资源确定的情况下,可以分析出计算任务的计算耗时。
31.进一步地,可基于任一工业软件的任一版本的计算任务控制要素、计算使用资源和计算耗时构建对应的计算耗时预测模型。计算耗时预测模型可为经过训练的ai模型。
32.具体地,可通过如下步骤构建每个工业软件的每个版本的计算耗时预测模型:s21,构建不同工业软件不用版本的仿真任务时长与其影响因素的数据库。具体地,对于任一工业软件v的任一版本p,可构建对应的数据库,数据库的第q行可包括(t
qvp
,c
qvp
,u
qvp
),t
qvp
,c
qvp
, u
qvp
分别为工业软件v的版本p对应的计算任务中的第q个计算任务的
计算耗时、时间控制要素和计算使用资源;v的取值为1到n,n为工业软件的数量;p的取值为1到f(v),f(v)为工业软件v的版本数量;q的取值为1到n(v,p),n(v,p)为工业软件v的版本p对应的计算任务的数量。
33.其中,c
qvp
=(c
q1vp
,c
q2vp


,c
qsvp


,c
qt(q)vp
),c
qsvp
为c
qvp
的第s个参数,s的取值为1到t(q),t(q)为c
qvp
中的参数数量;在一个示例中,t(q)可等于5,c
q1vp
,c
q2vp


,c
qsvp


,c
qt(q)vp
可分别为模型求解器类型、模型网格数量、网格类型、非线性求解设置、计算精度设置。u
qvp
=(u
q1vp
,u
q2vp
),参数u
q1vp
可为节点数,参数u
q2vp
可为核数。
34.本领域技术人员知晓,构建数据库使用的数据为经过数据清洗筛选后的数据。本领域技术人员知晓,数据清洗筛选可采用现有方法。
35.s22,对构建的数据库中的多维度数据进行降维处理。
36.在本发明实施例中,可采用pca主成分分析对构建的数据库中的多维度数据进行降维,以降低后续拟合任务难度。
37.具体地,对于时间控制要素和计算使用资源中的各个参数,可基于各个参数相对于计算耗时的权重进行降维处理,以舍弃对计算耗时影响很小的参数,降低后续拟合任务难度。各个参数相对于计算耗时的权重可基于大数据统计分析得到。
38.本领域技术人员知晓,基于各个参数相对于计算耗时的权重进行降维处理可采用现有方法实现。
39.s23,基于n(v,p)获取适配的神经网络深度,构建预测模型m(v,p)。
40.本领域技术人员知晓,n(v,p)越大,所需要的神经网络深度即神经网络层就越多,具体选择方式可采用现有方法。在一个示意性实施例中,神经网络可为卷积神经网络。
41.s24,将经过s22处理后的工业软件v的版本p的数据库中的数据作为训练集输入到m(v,p)中进行训练,得到训练后的m(v,p)作为工业软件v的版本p的计算耗时预测模型。
42.本领域技术人员知晓,将经过s22处理后的工业软件v的版本p的数据库中的数据作为训练集输入到m(v,p)中进行训练,得到训练后的m(v,p)作为工业软件v的版本p的计算耗时预测模型可通过现有方法实现。
43.在提取时间控制要素和计算使用资源后,会基于计算任务对应的软件和版本名称,选择对应的计算耗时预测模型。然后,将提取的时间控制要素和计算使用资源输入到对应的计算耗时预测模型中,得到对应的预测计算耗时。
44.s203,基于e(k,r)、d(k,r)和t(k,r),从预设超算节点使用优先级信息表中获取对应的优先级作为gk。
45.具体地,遍历m个预设超算节点使用优先级信息表,如果某个预设超算节点使用优先级信息表的某行包括e(k,r)、d(k,r)和t(k,r),则将该行对应的优先级作为gk。
46.s300,获取可使用超算节点,并利用获取到的可使用超算节点对c中的待计算任务依次进行处理。
47.进一步地,在本发明一实施例中,s300可具体包括:s310,获取从任务计算节点中释放的超算节点,得到可使用超算节点。
48.在本发明实施例中,s310可按照设定时间周期执行,可在任务计算的整个过程中执行。
49.s320,如果当前处理的ckr对应的idckr对应的总任务量和平均单个任务计算耗时
满足第一设定条件,即当前处理的ckr所属的用户id对应的总任务量和平均单个任务计算耗时满足第一设定条件,执行s330;如果满足第二设定条件,执行s340;否则,执行s360。
50.在本发明实施例中,idckr对应的总任务量包括已计算的任务量和待计算的任务量。
51.在本发明实施例中,第一设定条件可为任务量大于d,平均单个任务耗时小于t。第二设定条件可为任务量大于d,平均单个任务耗时大于t。
52.s330,如果ckr中已计算的任务数量q(k,r)<d1,则利用可使用超算节点继续计算ckr中d1-q(k,r)个待计算任务,执行s350;如果q(k,r)=d1,执行s350;d1为第一设定阈值。
53.在本发明实施例中,d1可基于实际需要进行设置,在一个示例中,d1可为固定值,例如d1=8~10,优选,d1=10。在另一个示例中,d1=

k1*d(k,r)

,0<k1<0.5,优选,0<k1<0.3,
⌊ ⌋
表示向下取整。
54.本领域技术人员知晓,如果存在当前可使用超算节点不够继续计算ckr中当前需要计算的一个待计算任务的情况时,例如,当前可使用超算节点为5,而当前需要计算的待计算任务需要的节点数为6,则可继续等待释放的节点,直到满足所需节点即可。
55.s340,如果ckr中已计算的任务数量q(k,r)<d2,则利用可使用超算节点继续计算ckr中的d2-q(k,r)个待计算任务,执行s350;如果q(k,r)=d2,执行s350;d2为第二设定阈值。
56.在本发明实施例中,d2可基于实际需要进行设置,在一个示例中,d2可为固定值,例如d1=3~5,优选,d1=10。在另一个示例中,d2=

k2*d(k,r)

,0<k2<0.3,优选,0<k2<0.1。
57.s350,将ckr的执行顺序调整为f(k),并将ck中除ckr之外的待计算任务集的执行顺序分别增加1,即将ckr之后的任务集处理后再处理ckr;执行s370。
58.s330至s350的技术效果在于,对于处于同一优先级的包括任务量多和任务量少的多个任务类型,对于提交时间早的任务量多的任务类型,如果在等该任务类型全部计算完之后再处理其它任务类型,由于任务量多所需的超算节点和计算耗时相应大,这对具有相同优先级的任务少的任务类型会显得不合理,因此,对于这种情况,可先对先提交的任务量多的任务类型计算设定数量的待计算任务,然后计算其它任务类型的任务,这样,能够使得任务量少且紧急的任务得到及时处理,能够确保超算节点尽可能更合理的使用。
59.s360,利用可使用超算节点对ckr中的待计算任务进行计算,在ckr中的待计算任务计算完后,执行s370。
60.在s360中,对于任务量少的任务类型,由于任务量少,可在所有待计算任务计算完后才进行下一个任务类型的任务计算。
61.s370,设置r=r+1;如果r≤f(k),执行s330,否则,进行下一个任务类型的任务计算,即执行s380。
62.s380,设置k=k+1;如果k≤l,执行s320;否则,退出当前控制程序,即结束排队状态的节点优先级分配机制。
63.在本发明另一实施例中,在s310之前还包括:s312,如果当前处理的ckr的任务属性为设定属性,执行s314;否则,执行s320。
64.在本发明一具体示例中,设定属性可为锁定计算。
65.s314,基于ckr需要的超算节点数量,从可使用超算节点中获取对应数量的超算节点作为ckr的锁定节点;在ckr中的待计算任务计算完后,执行s370。
66.s314的技术效果在于,使得任务属性为锁定计算的任务类型,具有最高优先级,能够得到及时处理。
67.在本实施例与前述实施例相比,由于增加了任务属性锁定计算,能够使得优先级类型更多,使得用户选择更多,用户体验更好。
68.综上,本发明实施例提供的基于优先级的超算节点使用方法,在出现任务排队时,能够基于用户提供的计算任务的数量、平均单个任务的计算耗时和任务紧急情况来分配超算节点,从而能够使得超算节点的使用变得更加合理。
69.本发明的实施例还提供了一种非瞬时性计算机可读存储介质,该存储介质可设置于电子设备之中以保存用于实现方法实施例中一种方法相关的至少一条指令或至少一段程序,该至少一条指令或该至少一段程序由该处理器加载并执行以实现上述实施例提供的方法。
70.本发明的实施例还提供了一种电子设备,包括处理器和前述的非瞬时性计算机可读存储介质。
71.本发明的实施例还提供一种计算机程序产品,其包括程序代码,当所述程序产品在电子设备上运行时,所述程序代码用于使该电子设备执行本说明书上述描述的根据本发明各种示例性实施方式的方法中的步骤。
72.虽然已经通过示例对本发明的一些特定实施例进行了详细说明,但是本领域的技术人员应该理解,以上示例仅是为了进行说明,而不是为了限制本发明的范围。本领域的技术人员还应理解,可以对实施例进行多种修改而不脱离本发明的范围和精神。本发明公开的范围由所附权利要求来限定。

技术特征:


1.一种基于优先级的超算节点使用方法,其特征在于,所述方法包括:s100,在检测到存在未处理的计算任务时,执行s200;s200,基于当前未处理的计算任务和m个预设超算节点使用优先级信息表,获取按优先级从高到低的顺序排列的待计算任务组集c=(c1,c2,

, ck,

,cl);其中,第i个预设超算节点使用优先级信息表的第j行包括(w
ij
,a
ij
,t
ij
,e
ij
),w
ij
为第i个预设超算节点使用优先级信息表中的第j个任务类型,a
ij
为w
ij
对应的任务量,t
ij
为w
ij
对应的平均单个任务计算耗时,e
ij
为w
ij
对应的任务属性,w
ij
对应的优先级为pi,i的取值为1到m,j的取值为1到f(i),f(i)为第i个预设超算节点使用优先级信息表的任务类型数量;p1>p2>

>pi>

>pm;第k个待计算任务组ck=(ck1,ck2,

,ck
r


,ck
f(k)
), ck
r
为ck中的第r个待计算任务集,ck
r
=(idck
r
,rck
r1
,rck
r2


,rck
rb


,rck
rh(k,r)
),idck
r
为ck
r
对应的用户id,rck
rb
为ck
r
中的第b个待计算任务,ck
r
的优先级为g
k
,ck
r
的执行顺序为r,k的取值为1到l,l为c中的待计算任务组的数量,l≤m;r的取值为1到f(k),f(k)为ck中的待计算任务集的数量,b的取值为1到h(k,r),h(k,r)为ck
r
中的待计算任务的数量,g
k
∈{p1,p2,

,pm};s300,获取可使用超算节点,并利用获取到的可使用超算节点对c中的待计算任务依次进行处理;s300具体包括:s310,获取从任务计算节点中释放的超算节点,得到可使用超算节点;s320,如果当前处理的ck
r
对应idck
r
对应的总任务量和平均单个任务计算耗时满足第一设定条件,执行s330;如果满足第二设定条件,执行s340;否则,执行s360;s330,如果ck
r
中已计算的任务数量q(k,r)<d1,则利用可使用超算节点继续计算ck
r
中的(d1
‑ꢀ
q(k,r))个待计算任务,执行s350;如果q(k,r)=d1,执行s350;d1为第一设定阈值;s340,如果ck
r
中已计算的任务数量q(k,r)<d2,则利用可使用超算节点继续计算ck
r
中的(d2-q(k,r))个待计算任务,执行s350;如果q(k,r)=d2,执行s350;d2为第二设定阈值;s350,将ck
r
的执行顺序调整为f(k),并将ck中除ck
r
之外的待计算任务集的执行顺序分别增加1;执行s370;s360,利用可使用超算节点对ck
r
中的待计算任务进行计算,在ck
r
中的所有待计算任务计算完后,执行s370;s370,设置r=r+1;如果r≤f(k),执行s320,否则,执行s380;s380,设置k=k+1;如果k≤l,执行s320;否则,退出控制程序。2.根据权利要求1所述的方法,其特征在于,在s200中,g
k
基于如下步骤得到:s201,从当前正在计算的任务中获取属于idck
r
的计算任务数量h1(k,r)以及从当前待计算的任务中获取属于idck
r
的计算任务数量h(k,r);s202,获取idck
r
对应的当前任务属性e(k,r)、idck
r
提交的总计算任务的任务量d(k,r)以及idck
r
的平均单个任务计算耗时t(k,r),其中,d(k,r)=h1(k,r)+h(k,r),t(k,r)=()/d(k,r),t(k,r)
u
为idck
r
当前提交的总计算任务中的第u个计算任务的计算耗时;s203,基于e(k,r)、d(k,r)和t(k,r),从m个预设超算节点使用优先级信息表中获取对应的优先级作为g
k

3.根据权利要求2所述的方法,其特征在于,t(k,r)
u
基于设定的计算耗时预测模型得到。4.根据权利要求3所述的方法,其特征在于,所述设定的计算耗时预测模型基于已经计算成功的n个计算任务的时间控制要素、计算使用资源和计算耗时构建。5.根据权利要求4所述的方法,其特征在于,t(k,r)
u
基于如下步骤得到:s2020,获取第u个计算任务的时间控制要素和计算使用资源;s2021,将第u个计算任务的时间控制要素和计算使用资源输入到所述设定的计算耗时预测模型中,得到对应的预测计算耗时tc(k,r)
u
;s2022,获取t(k,r)
u
=tc(k,r)
u
。6.根据权利要求1所述的方法,其特征在于,在s310之前还包括:s312,如果当前处理的ck
r
的任务属性为设定属性,执行s314;否则,执行s320;s314,基于ck
r
需要的超算节点数量,从可使用超算节点中获取对应数量的超算节点作为ck
r
的锁定节点;在ck
r
中的待计算任务计算完后,执行s370。7.根据权利要求1所述的方法,其特征在于,所述任务属性包括重点紧急、重点不紧急、非重点紧急、非重点不紧急。8.根据权利要求1所述的方法,其特征在于,所述任务属性包括锁定计算、重点紧急、重点不紧急、非重点紧急、非重点不紧急。9.一种非瞬时性计算机可读存储介质,所述存储介质中存储有至少一条指令或至少一段程序,其特征在于,所述至少一条指令或所述至少一段程序由处理器加载并执行以实现如权利要求1-8中任意一项的所述方法。10.一种电子设备,其特征在于,包括处理器和权利要求9中所述的非瞬时性计算机可读存储介质。

技术总结


本发明提供了一种基于优先级的超算节点使用方法、电子设备和存储介质,涉及大数据处理领域。所述方法包括:S100,在检测到存在未处理的计算任务时,执行S200;S200,基于当前未处理的计算任务和预设超算节点使用优先级信息表,获取按优先级从高到低的顺序排列的待计算文件集C;S300,获取可使用超算节点,并利用获取到的可使用超算节点对C中的待计算任务依次进行处理。本发明在出现任务排队时,能够基于用户提供的计算任务的数量、平均单个任务的计算耗时和任务紧急情况来分配超算节点,从而能够使得超算节点的使用变得更加合理。够使得超算节点的使用变得更加合理。够使得超算节点的使用变得更加合理。


技术研发人员:

李健增 孟祥飞 张振伟 张士岩 刘金明 冯源 孙娜 唐斌

受保护的技术使用者:

天河超级计算淮海分中心

技术研发日:

2022.11.18

技术公布日:

2022/12/19

本文发布于:2024-09-22 04:34:18,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/2/41049.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:节点   优先级   本发明   数量
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议