基于大数据的井喷式状态监测数据实时处理研究

被引:13
作者
吴秋莉
郭丽娟
吕泽承
张炜
机构
[1] 广西电网有限责任公司电力科学研究院
关键词
井喷式数据; Hadoop框架; 大数据; 实时处理框架;
D O I
10.16543/j.2095-641x.electric.power.ict.2017.03.009
中图分类号
TP311.13 [];
学科分类号
1201 ;
摘要
针对快速增长的井喷式状态监测数据,文章提出一种大数据分析方法。介绍了目前大数据流式数据实时分析技术和实时批处理技术,在Hadoop框架下结合状态监测系统的数据特点建立基于Kafka+Storm+Spark+Hadoop的实时分析架构,该分析架构能保证所有的监测数据及流数据都能被及时有效处理,防止数据接入速率不匹配造成的数据丢失,将处理后的状态监测数据保存到分布式文件系统或实时数据库中并深度分析,实现了海量井喷状态监测数据快速、有效的分析处理。
引用
收藏
页码:49 / 54
页数:6
相关论文
共 12 条
  • [1] 分布式云化智能电网状态监测体系研究
    戚伟强
    沈潇军
    倪阳旦
    钟一俊
    [J]. 电力信息与通信技术, 2016, 14 (05) : 121 - 126
  • [2] MapReduce大数据分析在煤矿的应用研究
    刘玉海
    [J]. 软件, 2016, 37 (05) : 101 - 104
  • [3] 分频段能量谱及马氏聚类算法在开关柜局部放电模式识别中的应用
    陈攀
    姚陈果
    廖瑞金
    陈昱
    米彦
    [J]. 高电压技术, 2015, 41 (10) : 3332 - 3341
  • [4] 输电线路状态监测系统规范化设计与应用
    王乃永
    邓育平
    谭蓉
    见伟
    卫鹏
    [J]. 电网与清洁能源, 2014, 30 (10) : 13 - 19
  • [5] 大数据流式计算:关键技术及系统实例
    孙大为
    张广艳
    郑纬民
    [J]. 软件学报, 2014, 25 (04) : 839 - 862
  • [6] 状态监测大数据存储及聚类划分研究
    周国亮
    宋亚奇
    王桂兰
    朱永利
    [J]. 电工技术学报, 2013, 28(S2) (S2) : 337 - 344
  • [7] 复杂装备状态监测实时流数据处理框架
    庄雪吟
    张力
    翁晓奇
    李虎斌
    刘英博
    [J]. 计算机集成制造系统, 2013, 19 (12) : 2929 - 2939
  • [8] 智能电网大数据处理技术现状与挑战
    宋亚奇
    周国亮
    朱永利
    [J]. 电网技术, 2013, 37 (04) : 927 - 935
  • [9] 基于Hadoop的广域测量系统数据处理
    曲朝阳
    朱莉
    张士林
    [J]. 电力系统自动化, 2013, 37 (04) : 92 - 97
  • [10] 数据流技术在电网自动化中的应用研究
    赵加奎
    杨国凤
    沐连顺
    樊涛
    杨宁
    王司博
    [J]. 电网技术, 2011, 35 (08) : 6 - 11