中国专利数据库

专利名称:一种分布式机器学习梯度汇聚方法、装置及模型训练方法

专利申请号202210981014.0
申请日2022.08.16
公开(公告)号CN115062771A
公开(公告)日2022.09.16
主分类号G06N3/04
分案原申请号
分类号G06N3/04 G06N3/08
优先权
申请(专利权)人之江实验室
地址310023 浙江省杭州市余杭区中泰街道之江实验室南湖总部
发明(设计)人杨弢;毛旷;潘秋红;汤昭荣;王颖
国际申请
国际公布
进入国家阶段日期
专利代理机构杭州浙科专利事务所(普通合伙) 33213
代理人孙孟辉
专利类型发明专利
摘要本发明公开了一种分布式机器学习梯度汇聚方法、装置及模型训练方法,利用智能交换机进行计算节点梯度汇聚任务调度和模型训练。智能交换机不仅包含正常的网络交换功能,还能对梯度数据包进行解析,抽取包内数据并进行计算,并将结果重新组包发送给相关计算服务器,提供更为高效的数据交换服务。智能交换机将多台计算服务器连接起来组成训练网络,共同完成神经网络模型训练任务。本发明实现分布式机器学习训练,可优化梯度汇聚时间,减少梯度交换流量,加速大模型训练。
全文下载下载
©2022 Patent9.com All rights reserved.蜀ICP备06009422号