摘 要:集中化,合并任务的处理是分布式设计中的一个难点。由于不同任务中需要频繁的数据交换,且需对不同任务的结果进行合并,使其难以使用目前主流的分布式设计模型。分布式管道设计模式是一种高度解耦合的分布式设计模型,适合处理业务粒度较大,数据交换频发,IO 瓶颈较高的任务。文章在分布式管道设计模式的基础上,参考服务发现机制实现了一个高性能的管道服务框架。
关键词:分布式;服务发现;动态负载均衡;管道任务;高解耦
DOI:10.19850/j.cnki.2096-4706.2021.07.012
基金项目:大学生创新创业训练计划项目 (省级)(202013471013)
Design and Implementation of Pipeline Service Framework Based on Distributed Pipeline Mode
DAI Zhenbang1 ,JIANG Enjie 2 ,LIU Lijia 2 ,GAN Jiangwei 3
(1.School of Chemical Engineering,Northwest Minzu University,Lanzhou 730124,China; 2.Information Engineering Department,Chengyi University College,Jimei University,Xiamen 361021,China; 3.College of Physics and Electronic Information Engineering,Minjiang University,Fuzhou 350108,China)
Abstract:Centralization and combined task processing is a difficulty in distributed design. Due to there are frequent data exchanges in different tasks and the results of different tasks need to be merged,it is difficult to use the current mainstream distributed design model. Distributed pipeline design pattern is a high decoupling distributed design model,which is suitable for the tasks with large business granularity,frequent data exchange and high IO bottleneck. Based on the distributed pipeline design pattern,this paper implements a high performance pipeline service framework with the reference of service discovery mechanism.
Keywords:distributed;service discovery;dynamic load balancing;pipeline task;high decoupling
参考文献:
[1] HU H R,FANG L L,YANG C H,et al. Research on Cloud Architecture of Enterprise Distributed Business Information System Based on SOA [J].Journal of Physics:Conference Series,2020,1684 (1):1-8.
[2] 徐旻洋,高承勇,周向东,等 . 基于微服务架构的大型建 筑设计企业生产业务平台构建 [J]. 土木建筑工程信息技术,2019, 11(3):89-95.
[3] 袁晓晨,张卫山,高绍姝,等 . 基于微服务架构的众包图 像数据集标注系统 [J]. 计算机系统应用,2021,30(5):83-91.
[4] 邓兆森 . 一种云平台服务状态显示方法及相关装置:CN1 12737882A [P].2021-04-30.
[5] DONG Y,ZHU P F,JIANG Z Y,et al. Real Time Data Distribution Technology of SCADA based on Redis [C]//Proceedings of 2016 International Conference on Computer,Mechatronics and Electronic Engineering (CMEE 2016).Beijing:DEStech Publications,2016:190-194.
[6] 贾统,李影,吴中海 . 基于日志数据的分布式软件系统故 障诊断综述 [J]. 软件学报,2020,31(7):1997-2018.
[7] 孙志龙,沙行勉,诸葛晴凤,等 . 面向内存文件系统的 数据一致性更新机制研究 [J]. 计算机科学,2017,44(2):222- 227.
[8] 张晨跃,刘黎志,邓开巍,等 . 基于 MapReduce 的朴素 贝叶斯算法文本分类方法 [J]. 武汉工程大学学报,2021,43(1): 102-105.
[9] 向勇,汤卫东,杜香燕,等 . 基于内核跟踪的动态函数调 用图生成方法 [J]. 计算机应用研究,2015,32(4):1095-1099.
[10] 张晶,黄小锋 . 一种基于微服务的应用框架 [J]. 计算机 系统应用,2016,25(9):265-270.
作者简介:戴振邦(2000—),男,汉族,福建莆田人,本科 在读,研究方向:分布式、数据挖掘、集群计算;江恩杰(2000—), 男,汉族,福建漳州人,本科在读,研究方向:人工智能、模式识别、 云服务;刘力嘉:(2000—),男,汉族,福建漳州人,本科在读, 研究方向:虚拟化;甘江伟(2000—),男,汉族,福建永安人, 本科在读,研究方向:微电子。