发明人:王宏升,鲍虎军,陈光,曾令仿,程宏才,李勇,朱健,郑焕波
申请号:CN202210183223.0
申请日:20220228
公开号:CN114237918B
公开日:
20220527
专利内容由知识产权出版社提供
摘要:本发明公开了一种面向神经网络模型计算的图执行方法和装置,包括根据深度学习框架编译生成的物理计算图,创建本机上的任务执行体,通过设计为每个任务执行体分配多个空闲内存块的方案,实现整张计算图以流水并行的方式同时参与到不同批次数据的深度学习训练任务中,本发明公开的面向神经网络模型计算的图执行方法和装置,以算子核函数的执行体为基本单元,以生产和消费的张量作为整个计算图中流动的数据,执行体以流水并行的方式实现模型的训练过程。在大规模深度神经网络的分布式应用场景下,本发明对用户的使用门槛较低,并且能够使模型学习到大量分批次流入神经网络的数据的内在关联,从而获得对应场景中的“智能”感知与判断能力。 申请人:之江实验室
地址:310023 浙江省杭州市余杭区之江实验室南湖总部
国籍:CN
代理机构:北京志霖恒远知识产权代理事务所(普通合伙)
代理人:奚丽萍