并行训练业务模型的方法及装置[发明专利]

专利名称:并行训练业务模型的方法及装置专利类型:发明专利
发明人:钟颖,杨鹏程,杨明,张晓明
申请号:CN202011211152.8
申请日:20201103
公开号:CN112183668A
公开日:
20210105
专利内容由知识产权出版社提供
摘要:本说明书实施例提供一种并行训练业务模型的方法,该方法可以由多个设备执行,业务模型可以按照对业务数据的处理顺序分割为依次连接的多个子模型。其中,前向过程,在获取当前的若干个训练样本后,各个设备依次利用各个子模型处理若干当前训练样本,其中,对于单个训练样本,依次经过各个设备经由相应子模型进行处理,得到单个处理结果,设备G处理训练样本S时,在其他设备中存在空闲设备的情况下,将相应的子模型M的部分模型参数广播至若干空闲设备,以供设备G和所述若干空闲设备以层内并行的方式处理训练样本S的相关数据。反向传播过程亦然,如此往复,从而提高设备的利用率和大规模模型训练效率。
申请人:支付宝(杭州)信息技术有限公司
地址:310000 浙江省杭州市西湖区西溪路556号8层B段801-11
国籍:CN
代理机构:北京亿腾知识产权代理事务所(普通合伙)

本文发布于:2024-09-23 11:13:14,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/2/417989.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:模型   设备   处理
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议