采用Map-Reduce模型的海量电能质量数据交换格式文件快速解析方案

被引:16
作者
曲广龙 [1 ]
杨洪耕 [1 ]
张逸 [2 ]
机构
[1] 四川大学电气信息学院
[2] 国网福建省电力有限公司电力科学研究院
关键词
电能质量; PQDIF文件; Map-Reduce模型; 海量数据解析; Hadoop;
D O I
10.13335/j.1000-3673.pst.2014.06.045
中图分类号
TM76 [电力系统的自动化];
学科分类号
摘要
针对现有方案对电能质量监测系统中海量PQDIF文件解析效率低、解析时间长等问题,研究实现了一种基于集群计算架构的海量PQDIF文件快速解析方案。通过Map-Reduce模型来实现海量PQDIF文件的快速并行解析。Map-Reduce模型将数据集的大规模操作任务拆分成若干子任务分配给网络上的每一个计算节点(如PC机),实现多计算节点共同协调处理任务,达到提高运行效率的目的。方案采用Java和C++编写,在异构平台间具有较强的可移植性,并且可以通过增加计算节点来提高解析效率,具有较强的可扩展性。通过对海量PQDIF文件进行解析测试,结果表明该方案可以显著提高文件解析效率。
引用
收藏
页码:1705 / 1711
页数:7
相关论文
共 14 条