iso file download
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111182862.7 (22)申请日 2021.10.1 1 (71)申请人 重庆邮电大 学 地址 400065 重庆市南岸区黄桷垭崇文路2 号 (72)发明人 黄晓舸 邓雪松 王凡 陈前斌  (74)专利代理 机构 北京同恒源知识产权代理有 限公司 1 1275 代理人 廖曦 (51)Int.Cl. G06N 20/00(2019.01) G06F 16/27(2019.01) G06F 21/62(2013.01) G06F 21/64(2013.01) (54)发明名称 一种区块链赋能的异步联邦学习方法 (57)摘要 本发明涉及一种区块链赋能的异步联邦学 习方法, 属于通信技术领域。 在本发明提出的应 用场景下, 任务发起者(即主节点)为诚实节点, 是完全可信的, 任务协助者(即次节点)中可能包 含恶意节 点。 这些节点可以是一些金融机构或部 门企业, 他们都具有较好的计算能力, 由于数据 的缺乏需要联合建立一个复杂模 型。 按分工将节 点分为主节 点和次节点两类, 上一轮中信誉值最 高的次节 点会在本轮担任领导者, 它会收集次节 点本地模型和 信誉值并打包上传区块。 主节点在 完成本地聚合后会判断是否模型是否收敛, 未收 敛则将全局模 型及次节点信誉 值上传区块链, 开 启下一轮联合训练。 权利要求书1页 说明书7页 附图2页 CN 113902127 A 2022.01.07 CN 113902127 A 1.一种区块链赋能的异步联邦学习方法, 其特 征在于: 该 方法包括以下步骤: S1: 网络中的主节点作任务发起者, 其它次节点为任务协作者。 主节点向区块链网络上 传最新全局模型, 次节点从区块链网络下 载全局模型进行本地更新; S2: 次节点在完成本地更新后, 向状态服务器发送状态查询信息以确定是否继续进行 本地训练; S3: 当次节点进入共识流程, 由上一轮迭代中信誉值最高的次节点担任领导者, 次节点 之间进行交叉验证以确定 本地更新模型的正确性, 从而达成共识; S4: 在S3的基础上, 次节点根据所获取到的其余次节点信息计算自身信誉值, 并将其发 送至领导者, 由领导者收集所有次节点的模型更新以及信誉值信息, 并将其打包上传至区 块链网络; S5: 在接收到次节点的模型更新后, 协调器向主节点发送消息, 通知主节点进行全局聚 合操作; S6: 主节点将接收到的次节点的更新的模型与本地模型进行聚合, 并将聚合后的全局 模型以及次节点信誉值打包上传至区块链网络 。 2.根据权利要求1所述的一种区块链赋能的异步联邦学习方法, 其特征在于: 在所述S1 中, 仅有一个主节 点, 其余节 点皆为次节点; 主节点包含任务训练所需要的部分数据特征以 及标签, 次节点仅有 可供训练的部 分数据特征; 在 任务初始 化阶段, 主节点与次节点会先使 用同态加密算法交换各自所需数据特征以本地模型更新; 主节点将聚合后的全局模型上传 至区块链网络之后, 进行本地模型 更新, 直至收到协调器发送的全局聚合信号。 3.根据权利要求2所述的一种区块链赋能的异步联邦学习方法, 其特征在于: 在所述S2 中, 次节点k向状态服务器发送带有其当前状态的查询消息; 状态响应消息将指导次节点k 执行相应的操作ak; 次节点 k依据操作指示决定继续本地训练或是进入 共识流程。 4.根据权利要求3所述的一种区块链赋能的异步联邦学习方法, 其特征在于: 在所述S3 中, 在每次任务的第一轮训练中, 随机选取领导者, 随后训练中皆由上一轮训练中信誉值最 高的节点担当领导 者。 5.根据权利要求4所述的一种区块链赋能的异步联邦学习方法, 其特征在于: 在所述S4 中, 基于共识阶段获取到的全部次节 点信息, 包括本地更新模 型、 本地迭代次数以及上一轮 的信誉值; 采用熵权法计算出节点信誉值R, R为0~10 0的实数。 6.根据权利要求5所述的一种区块链赋能的异步联邦学习方法, 其特征在于: 在所述S5 中, 主节点在上传最新全局模型至区块链网络之后, 开始进 行本地训练, 等待协调器的聚合 消息; 协调器在收到来自次节点的打包区块之后, 向主节点 发出聚合消息, 主节点下载次节 点信息, 并将本地模型与下 载的模型进行聚合。 7.根据权利要求6所述的一种区块链赋能的异步联邦学习方法, 其特征在于: 在所述S6 中, 主节点将聚合后的全局模型上传至区块链网络以供次节点下载, 并开启新一轮本地训 练, 直至下一次 次节点的模型 更新完成。权 利 要 求 书 1/1 页 2 CN 113902127 A 2一种区块链 赋能的异步联邦学习方 法 技术领域 [0001]本发明属于通信技 术领域, 涉及一种区块链赋能的异步联邦学习方法。 背景技术 [0002]得益于机器学习领域的快速发展, 算法能够比人更快、 更准确地从业务流程中积 累的数据里, 发掘出从对人类来说可能非常复杂的 “模式和洞察 ”。 然而决定一个学习算法 是否精准高效的重要 条件之一便是训练数据的量级是否足够。 为了完成一个复杂的学习任 务, 往往需要多方协作建立模型, 而其中的数据隐秘性 不能得到保障。 [0003]联邦学习能够在不共享原始数据的情 况下进行协作 模型学习, 并日益吸引科技巨 头和需要隐私保护的行业的关注。 数据位于多个数据拥有者处, 且数据间的公共实体重合 度较高而特征重合度较低, 被称为垂直分布数据(Vertically  Data)。 由于数据拥有者之间 的利益冲突或是法律法规限制, 数据不能直接进行共享, 例如多家家金融(银行、 电商公司 和保险公司等)向客户提供不同的服务, 拥有客户不同方面的数据, 但他们所服务的客户群 体有较大的重叠。 由于客户间的原始数据没有进 行交互, FL保护了用户的 隐私, 并将数据采 集、 训练和模型存 储的机器学习过程 解耦到中央服 务器上。 [0004]虽然联邦学习能够 解决数据拥有者之间的数据隐私问题, 但由于数据间的频繁交 互以及中央服务器的暴露性, 其抗攻击能力面临极大 的挑战。 区块链技术中的分布式存储 带来的不可篡改性以及恶意节点识别技术能够很好地解决数据可靠性传输以及抵抗恶意 攻击的问题。 而联邦学习作为一种分布式学习架构, 恰好能够为区块链技术的融合提供很 好的基础。 [0005]而针对传统同步联邦学习中, 节点间算力不均带来的高算力节点资源浪费, 本发 明提供一种异步全局聚合方法, 次节点端的高算力节点可以进行多次本地训练, 而主节点 在等待次节点本地模型期间可以一 直进行本地训练, 充分利用有效资源。 发明内容 [0006]有鉴于此, 本发明的目的在于提供一种区块链赋能的异步联邦学习方法。 [0007]为达到上述目的, 本发明提供如下技 术方案: [0008]第一步, 本发明根据网络中节点对其他节点数据的需求, 以及对数据在传输中安 全性的要求, 提供了一种区块链赋能的异步联邦学习方法, 该 方法执行流程如下: [0009]S1: 网络中的主节点作任务发起者, 其它次节点为任务协作者。 主节点向区块链网 络上传最 新全局模型, 次节点从区块链网络下 载全局模型进行本地更新; [0010]S2: 次节点在完成本地更新后, 向状态服务器发送状态查询信息以确定是否继续 进行本地训练; [0011]S3: 当次节点进入共识流程, 由上一轮迭代中信誉值最高的次节点担任领导者, 次 节点之间进行交叉验证以确定 本地更新模型的正确性, 从而达成共识; [0012]S4: 在步骤S3基础上, 次节点根据所获取到的其余次节点信息计算自身信誉值, 并说 明 书 1/7 页 3 CN 113902127 A 3

.PDF文档 专利 一种区块链赋能的异步联邦学习方法

文档预览
中文文档 11 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共11页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种区块链赋能的异步联邦学习方法 第 1 页 专利 一种区块链赋能的异步联邦学习方法 第 2 页 专利 一种区块链赋能的异步联邦学习方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-19 01:59:03上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。