一种基于Storm编程模型的迭代Topology方案

被引:5
作者
杜政颉 [1 ]
王鹏 [1 ]
黄焱 [2 ,3 ]
郎福通 [1 ]
机构
[1] 成都信息工程学院软件工程学院并行计算实验室
[2] 中国科学院成都计算机应用研究所
[3] 中国科学院大学
关键词
大数据; Storm; 迭代; 拓扑;
D O I
10.16836/j.cnki.jcuit.2014.01.008
中图分类号
TP311.11 [];
学科分类号
081202 ; 0835 ;
摘要
为解决Storm编程模型无法处理具有迭代结构的应用程序的问题,从迭代结构程序的特点出发,在Storm编程模型的基础上通过增加Receiver、IBolt、Checker组件组建迭代Topology,设计了一种可以处理迭代结构的编程模型,分析了这种模型实现原理,对这种模型的新增组件和其对应的应用程序接口进行介绍和分析,同时,在Storm系统架构基础上设计了一种迭代Topology的实现方案,描述了这种实现方式下解决具有迭代结构程序的具体过程,最后使用这种模型模拟实现K-Means算法,实例论证这种迭代模型的可行性。
引用
收藏
页码:47 / 51
页数:5
相关论文
共 6 条
[1]   大数据管理:概念、技术与挑战 [J].
孟小峰 ;
慈祥 .
计算机研究与发展, 2013, 50 (01) :146-169
[2]   针对高速数据流的大规模数据实时处理方法 [J].
亓开元 ;
赵卓峰 ;
房俊 ;
马强 .
计算机学报, 2012, 35 (03) :477-490
[3]   聚类算法研究 [J].
孙吉贵 ;
刘杰 ;
赵连宇 .
软件学报, 2008, (01) :48-61
[4]   分布式数据流处理系统的动态负载平衡技术 [J].
邓华锋 ;
刘云生 ;
肖迎元 .
计算机科学, 2007, (07) :120-123
[5]   基于聚类分析的K-means算法研究及应用 [J].
张建萍 ;
刘希玉 .
计算机应用研究, 2007, (05) :166-168
[6]  
MapReduce[J] . Jeffrey Dean,Sanjay Ghemawat.Communications of the ACM . 2008 (1)