(19)中华 人民共和国 国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202111229664.1
(22)申请日 2021.10.21
(71)申请人 西安电子科技大 学
地址 710071 陕西省西安市太白南路2号西
安电子科技大 学
申请人 西安电子科技大 学工程技术研究院
有限公司
(72)发明人 陈晨 赵明 刘霄 赵玉娟
左锋锋
(74)专利代理 机构 西安长和专利代理有限公司
61227
代理人 何畏
(51)Int.Cl.
G06F 9/50(2006.01)
G06N 20/00(2019.01)
(54)发明名称
一种移动车辆的异步联邦学习方法、 系统、
设备及终端
(57)摘要
本发明属于车辆管 理技术领域, 公开了一种
移动车辆的异步联邦学习方法、 系统、 设备及终
端, 所述移动车辆的异步联邦学习系统, 包括用
户层、 域‑边缘服务器层和数据处理中心层; 所述
移动车辆的异步联邦学习方法包括: 综合利用云
计算和边缘计算, 提出基于云边车的网络分层分
域架构; 提出适用于所述基于云边车的网络分层
分域架构的异步联邦学习聚合算法aFedV; 针对
聚合算法和分层分级架构, 在不同数据分布上开
展实验, 从模 型训练准确率和通信开销方面验证
aFedV算法的性能。 本发明综合利用云计算和边
缘计算的优势, 采用异步模式更新参数, 能够减
少整个训练过程的通信次数, 解决移动联邦成员
在计算过程中动态连接无法及时更新参数的问
题。
权利要求书4页 说明书14页 附图5页
CN 114116198 A
2022.03.01
CN 114116198 A
1.一种移动车辆的异步联邦学习方法, 其特征在于, 所述移动车辆的异步联邦学习方
法包括:
初始时, 本地车辆设备从所属域服务器获取机器学习初始参数或上一轮聚合结果, 经
过一定轮次本地机器学习训练后, 车辆将模型梯度上传到所属 域; 边缘域服务器异步接 收
车辆上传的模型梯度后进 行边缘聚合, 域边缘服务器将聚合结果下发给域内所有 车辆完成
域内局部参数 更新;
同时域服务器将结果上传到云中心进行二 次聚合, 云端同样采用异步模式接收边缘服
务器的模 型梯度, 云侧聚合完成后, 向所有边缘服务器下发聚合结果, 边缘服务器作为中间
媒介下发参数给所有车辆完成全局 参数更新; 此时一轮全局训练过程结束, 整个系统中异
步接入模式构成一个闭环, 一直持续上述过程, 直至模型训练达到预设的精度或者整个算
法收敛。
2.如权利要求1所述的移动车辆的异步联邦学习方法, 其特征在于, 所述移动车辆的异
步联邦学习方法包括以下步骤:
步骤一, 综合利用云计算和边缘计算, 通过引入 “域”的概念管理范围内的参数更新, 并
提出基于云边车的网络分层分域架构;
步骤二, 提出适用于所述基于云边车的网络分层分域架构的异步联邦学习聚合算法
aFedV, 并采用异步模式更新 参数;
步骤三, 针对所述聚合算法和分层 分级架构, 在不同数据分布上开展实验, 从模型训练
准确率和通信开销方面验证aF edV算法的性能。
3.如权利要求1所述的移动车辆的异步联邦学习方法, 其特征在于, 所述移动车辆的异
步联邦学习方法, 还 包括分层分域模型的构建; 其中, 所述分层分域模型参数定义如下:
云边端场景下有u个边缘域服务器, E={e1,e2,…,eu}表示u个边缘域服务器的集合, 其
中eu表示第u个边缘域服务器; s为域边缘服务器所在域, 其中S={s1,s2,…,si}表示所有域
的集合; 每个边缘域服务器覆盖范围内共有v个车辆, C={c1,c2,…,cv}表示这v个车辆的集
合, 其中cv表示第v个车辆, cvi表示第i个域内的第v个车辆, Di
v表示第i个域 内第v个车辆产
生的训练样本, 样本个数用d=|Di
v|表示; 其中, 所述分层分域的异步 联邦学习流程参 数, 还
包括:
l为本地训练轮次索引, L为本地训练总轮次, m表示边缘聚合次数, n表示云端聚合次
数, h为每执行h次本地机器学习向边缘服务器上传本地模型梯度, k为每执行k次边缘聚合
执行一次云端聚合;
假设当前有|S|个域, 每个域下有一个路侧单元, 通信覆盖范围内存在一个域 ‑边缘服
务器eu, 该域内车辆行驶路段为目标路段; 由于RSU的传输半径远远大于道路宽度, 因此忽
略道路宽度并将底层路车模 型简化为一维模型; 在t时间段内, 到达目标路段内车辆数量服
从参数为 λ 的Po isson分布, 即:
其中, v表示时间λt内到达的车辆数量; 车辆cvi参与本地深度学习训练更新
通过迭权 利 要 求 书 1/4 页
2
CN 114116198 A
2代l次找到更优的参数
来最小化本地目标损失函数
即:
经过h次本地训练, 车辆cvi将更新后的梯度上传至边缘域服务器eu执行边缘聚合, 边缘
聚合公式如下:
其中, |Ci|表示第i个域内车辆v总数,
表示第i个域内第v个车辆拥有的训练样本 数
量;
边缘服务器将更新后的梯度
下发给域内所有 车辆, 车辆在 进行本地参数更新的同时
接受边缘服务器下发的梯度 进行局部参数更新
同时, 每经过k轮边缘聚合,
各边缘服务器将聚合得到的梯度
上传至云服 务器执行云端聚合, 云端聚合公式如下:
其中, |s|表示域i的总个数; 云端使用聚合结果
更新云端模型, 云服务器最小化全局
损失函数公式如下:
将最优模型参数
下发给各域内车辆后, 本地车辆
进行全局参数
更新。
4.如权利要求1所述的移动车辆的异步联邦学习方法, 其特征在于, 所述移动车辆的异
步联邦学习方法, 还 包括:
针对分层分域联邦学习架构提出联邦成员异步连接的问题, 在车联网环境中, 车辆动
态参与联邦学习会影响聚合过程和训练结果, 建立该问题的模型, 通过设计聚合算法解决
该问题;
分层分域场景中, 采用两级模型聚合方式分别最小化本地损失函数和最小化全局损失
函数, 异步模式会减少整个算法的运行时间并最小化云边通信次数Ms‑c和边端通信次数
Me‑c; 其中, 所述 最优化函数表示如下:权 利 要 求 书 2/4 页
3
CN 114116198 A
3
专利 一种移动车辆的异步联邦学习方法、系统、设备及终端
文档预览
中文文档
24 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共24页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-19 02:00:41上传分享