基于HDFS+Spark的时空大数据存储与处理——以智慧无锡时空大数据为例

被引:17
作者
贾旖旎 [1 ]
周新民 [2 ]
曹芳 [2 ]
机构
[1] 无锡市自然资源和规划局
[2] 武大吉奥信息技术有限公司
关键词
时空大数据; 集群计算; 存储处理; 数据挖掘;
D O I
暂无
中图分类号
P208 [测绘数据库与信息系统]; TP311.13 [];
学科分类号
071104 [大数据与智能系统];
摘要
海量时空数据的高效存储、读写、处理与分析是当前地理信息科学领域的研究热点。本文对目前主流大数据技术产品进行了选取和融合,开展了基于HDFS+Spark的时空大数据存储、处理分析等方面的研究和探讨,以智慧无锡时空信息云平台为应用对象,搭建了一套时空大数据存储处理的集群平台,并通过具体应用实验,得到了时空数据存储、处理、挖掘的响应时间及可视化展示结果,证实了HDFS+Spark集群计算平台在解决时空大数据存储、处理、挖掘方面的有效性。
引用
收藏
页码:19 / 23
页数:5
相关论文
共 5 条
[1]
大数据存储技术综述(英文) [J].
Aisha SIDDIQA ;
Ahmad KARIM ;
Abdullah GANI .
FrontiersofInformationTechnology&ElectronicEngineering, 2017, 18 (08) :1041-1072
[2]
时空数据分布式存储研究 [D]. 
施志林 .
江西理工大学,
2015
[3]
面向海量空间数据并行高效处理的存储模式设计与研究 [D]. 
何涛 .
电子科技大学,
2014
[4]
一种高性能HDFS存储平台的研究与实现 [D]. 
王磊 .
西安电子科技大学,
2013
[5]
Spark大数据处理[M] 高彦杰 机械工业出版社 2014,