面向机器学习的分布式并行计算关键技术及应用

被引：11

作者：

曹嵘晖 ^{[1
,2
]}

唐卓 ^{[1
,2
]}

左知微 ^{[1
,2
]}

张学东 ^{[1
,2
]}

机构：

[1] 湖南大学信息科学与工程学院

[2] 国家超级计算长沙中心

来源：

智能系统学报 | 2021年 / 16卷 / 05期

基金：

国家重点研发计划;

关键词：

机器学习; 分布式计算; 倾斜数据; 任务时空调度; 资源管理; 节能调度; 跨域资源迁移; 并行优化; 图迭代算法; 智能分析系统;

D O I：

暂无

中图分类号：

TP181 [自动推理、机器学习];

学科分类号：

摘要：

当前机器学习等算法的计算、迭代过程日趋复杂,充足的算力是保障人工智能应用落地效果的关键。本文首先提出一种适应倾斜数据的分布式异构环境下的任务时空调度算法,有效提升机器学习模型训练等任务的平均效率;其次,提出分布式异构环境下高效的资源管理系统与节能调度算法,实现分布式异构环境下基于动态预测的跨域计算资源迁移及电压/频率的动态调节,节省了系统的整体能耗;然后构建了适应于机器学习/深度学习算法迭代的分布式异构优化环境,提出了面向机器学习/图迭代算法的分布式并行优化基本方法。最后,本文研发了面向领域应用的智能分析系统,并在制造、交通、教育、医疗等领域推广应用,解决了在高效数据采集、存储、清洗、融合与智能分析等过程中普遍存在的性能瓶颈问题。

引用

页码：919 / 930

页数：12

共 20 条

[1] The Potential of the SP System in Machine Learning and Data Analysis for Image Processing.[J].Wolff J. Gerard.Big Data and Cognitive Computing.2021, 1
[2] Digital twin-based designing of the configuration; motion; control; and optimization model of a flow-type smart manufacturing system.[J].Qiang Liu;Jiewu Leng;Douxi Yan;Ding Zhang;Lijun Wei;Ailin Yu;Rongli Zhao;Hao Zhang;Xin Chen.Journal of Manufacturing Systems.2020, prepublish
[3] Analysis and processing aspects of data in big data applications
Rahul, Kumar
Banyal, Rohitash Kumar
Goswami, Puneet
[J]. JOURNAL OF DISCRETE MATHEMATICAL SCIENCES & CRYPTOGRAPHY, 2020, 23 (02) : 385 - 393
[4] Smart manufacturing process and system automation – A critical review of the standards and envisioned scenarios.[J].Yuqian Lu;Xun Xu;Lihui Wang.Journal of Manufacturing Systems.2020,
[5] Future Trends and Current State of Smart City Concepts: A Survey.[J].Ayca Kirimtat;Ondrej Krejcar;Attila Kertesz;M. Fatih Tasgetiren.IEEE Access.2020,
[6] A Manufacturing Big Data Solution for Active Preventive Maintenance
Wan, Jiafu
Tang, Shenglong
Li, Di
Wang, Shiyong
Liu, Chengliang
Abbas, Haider
Vasilakos, Athanasios V.
[J]. IEEE TRANSACTIONS ON INDUSTRIAL INFORMATICS, 2017, 13 (04) : 2039 - 2047
[7] AI; native supercomputing and the revival of Moore's Law.[J].Lu Chien Ping.APSIPA Transactions on Signal and Information Processing.2017,
[8] VISPARK: GPU-ACCELERATED DISTRIBUTED VISUAL COMPUTING USING SPARK
Choi, Woohyuk
Hong, Sumin
Jeong, Won-Ki
[J]. SIAM JOURNAL ON SCIENTIFIC COMPUTING, 2016, 38 (05) : S700 - S719
[9] A Framework of Price Bidding Configurations for Resource Usage in Cloud Computing
Li, Kenli
Liu, Chubo
Li, Keqin
Zomaya, Albert Y.
[J]. IEEE TRANSACTIONS ON PARALLEL AND DISTRIBUTED SYSTEMS, 2016, 27 (08) : 2168 - 2181
[10] LIBRA: Lightweight Data Skew Mitigation in MapReduce
Chen, Qi
Yao, Jinyu
Xiao, Zhen
[J]. IEEE TRANSACTIONS ON PARALLEL AND DISTRIBUTED SYSTEMS, 2015, 26 (09) : 2520 - 2533

← 1 2 →