(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111665645.3 (22)申请日 2021.12.31 (71)申请人 上海孚典智能科技有限公司 地址 200433 上海市杨 浦区国定路323号 801-15室 (72)发明人 赵继胜　吴宇　 (74)专利代理 机构 北京博维知识产权代理事务 所(特殊普通 合伙) 11486 代理人 张倩 (51)Int.Cl. G06F 9/48(2006.01) G06F 11/36(2006.01) G06F 9/50(2006.01) H04L 67/60(2022.01) (54)发明名称 一种面向数据I/O优化的自适应微服务调度 系统 (57)摘要 本发明提供了一种基于运行时状态分析来 进行微服务调度并提升数据读写效率的技术。 微 服务系统已经成为构建大型复杂应用的基础技 术平台之一， 通过将模块化的信息处理单元以轻 量级虚拟机方式进行封装， 实现高容错能力。 通 过服务网格的方式将各种应用功能进行编排， 实 现稳定的大型复杂应用系统。 微服务往往需要访 问多种数据源或数据湖系统， 数据的位置对数据 读写效率产生关键影响， 例如在分布式存储系统 中， 微服务的执行节点与数据存储节 点一致或接 近， 将极大提升数据处理的效率。 针对大型应用 中微服务对 数据访问密集场景的效率问题， 本项 发明提出了一种基于对数据读写的运行时状态 进行分析， 确定微服务调度执行的最佳位置的技 术， 通过缩短数据通路来有效提升数据I/O效率， 提升在构建基于微服务的大型数据密集性应用 系统的性能。 权利要求书1页 说明书3页 附图2页 CN 114281512 A 2022.04.05 CN 114281512 A 1.一种面向数据I/O优化的自适应微服务调度系统， 其特征在于建立一种动态调整微 服务运行位置以降低存 储I/O延迟的系统。 2.根据权利要求1所述的一种面向数据I/O优化的自适应微服务调度系统， 其特征在于 通过运行时采样来获得微 服务存储I/O的统计信息， 包括存 储I/O读写频率和数据量。 3.根据权利要求1所述的一种面向数据I/O优化的自适应微服务调度系统， 其特征在于 通过编译器对微 服务代码进行静态分析并植入动态信息采样能力。 4.根据权利要求1所述的一种面向数据I/O优化的自适应微服务调度系统， 其特征在于 建立通过运行时存储I/O统计信息来确 定微服务的存储I/O特性， 从而计算基于存储I/O的 运行成本 。 5.根据权利要求1所述的一种面向数据I/O优化的自适应微服务调度系统， 其特征在于 根据基于存 储I/O的运行成本最小化 来选择可执行微服务的最佳位置 。 6.根据权利要求1所述的一种面向数据I/O优化的自适应微服务调度系统， 其特征在于 调度器根据基于存 储I/O运行成本来动态地 为微服务安排运行位置 。 7.根据权利要求1所述的一种面向数据I/O优化的自适应微服务调度系统， 其特征在于 调度器根据运行环境状态的改变触发对基于存储I/O运行成本进行重新计算， 并重新调度 微服务到更新后的最佳运行位置 。 8.根据权利要求1所述的一种面向数据I/O优化的自适应微服务调度系统， 其特征在于 触发对微服务运行位置改变的运行环境状态的变化包括增减计算集群的计算、 网络和存储 设备， 微服务本身对访问存 储数据源的改。权　利　要　求　书 1/1 页 2 CN 114281512 A 2一种面向数据I/O优化的 自适应微服务调度系统 技术领域 [0001]本发明属于涉及信息技术领域， 尤其是涉及一种面向数据I/O优化的自适应微服 务调度方法， 主要用于提升 云计算和边缘计算复杂环境中基于微服务的应用系统的运行性 能， 特别是降低存 储I/O延迟。 背景技术 [0002]智慧园区和智慧城市作为典型大规模人工智能应用场景， 涉及大量重量繁杂的数 据I/O， 特别是计算、 存储和网络环 境配置复杂， 引出I/ O速率收应用程序运行位置及数据源 所在位置影响。 云计算和边缘计算协同的方式使 数据密集和通信密集的应用系统对缩短数 据通路提升I/O成为提升应用系统运行效率的主要计算调整。 微服务1为提供应用系统构建 提供了模块 化标准， 并具 备高可用特性， 作为构建大 型应用系统的实现方式已经广泛落 地。 [0003]面向人工智能计算的微服务往往需要访问多种数据源 或数据湖系统， 数据的位置 对数据I/O效率产生关键影响， 例如在分布式存储系统中， 微服务的执行节 点与数据存储节 点一致或接近， 将极大提升数据 处理的效率。 本项发明通过以动态采样机制获取微服务对 数据源的I/ O频率和容量的统计数据， 并根据其运行环 境的数据通道进 行动态调整， 缩短数 据通路， 降低I/O延迟， 从而提升微 服务运行的效率。 发明内容 [0004]本发明提供了一种基于运行时状态分析来进行微服务调度并提升数据读写效率 的技术。 微服务系统已经成为构建大型复杂应用的基础技术平台之一， 通过将模块化的信 息处理单元以轻量级虚拟机方式进行封装， 实现高容错能力。 通过服务网格的方式将各种 应用功能进 行编排， 实现稳定的大型复杂应用系统。 微服务需要访问多种数据源， 数据的位 置是影响数据读写效率的关键因素， 大型复杂应用系统的数据访问涉及结构化数据看、 非 结构化数据库、 对象存储、 文件存储等， 而 各种数据源可以集中式存储系统或分布式数据 平 台来实现， 因此数据本地化往往会成为应用性能优化的关键， 特别是在 网络环境下构建的 分布式存储系统中， 缩短访I/ O通道延迟是提升访 存效率的关键。 针对 大型应用中微服务对 数据访问密集场景的效率问题， 本项发明提出了一种基于对数据读写的运行时状态进 行分 析， 确定微服务调度执行的最佳位置的技术， 通过缩短数据通路来有效提升数据I/O效率， 提升在构建基于微 服务的大型数据密集 性应用系统的性能。 [0005]为实现上述目的， 本发明通过编译器技术3在微服务中植入与存储I/O相关的采样 点， 并向微服务调度器发送采样信息， 由调度器分析存储读写效率并搜索更优化的微服务 运行位置， 实现降低存储读写延迟。 调 度优化过程发生在基于微服务应用的运行过程中， 并 在运行环境改变是自动进行重新决策， 保持应用系统的访存成本始终控制在优化水平。 本 项发明适用于云 ‑边协同环境， 即计算效能、 通信和存 储I/O速率存在复杂配置的运行环境。 [0006]本项发明包含3部分： 1.基于编译器技术的存储I/O采样代码 植入； 2. 调度器通过 采样代码获取的存储I/O信息， 在运行时分析基于微服务系统的存储I/O状态， 计算最佳访说　明　书 1/3 页 3 CN 114281512 A 3