小样本学习研究综述

被引:707
作者
赵凯琳 [1 ,2 ]
靳小龙 [1 ,2 ]
王元卓 [1 ,2 ]
机构
[1] 中国科学院计算技术研究所网络数据科学与技术重点实验室
[2] 中国科学院大学计算机与控制学院
基金
国家重点研发计划;
关键词
小样本学习; 微调; 数据增强; 迁移学习; 度量学习; 元学习;
D O I
暂无
中图分类号
TP181 [自动推理、机器学习];
学科分类号
140502 [人工智能];
摘要
小样本学习旨在通过少量样本学习到解决问题的模型.近年来,在大数据训练模型的趋势下,机器学习和深度学习在许多领域中取得了成功.但是在现实世界中的很多应用场景中,样本量很少或者标注样本很少,而对大量无标签样本进行标注工作将会耗费很大的人力.所以,如何用少量样本进行学习就成为目前人们需要关注的问题.系统地梳理了当前小样本学习的相关工作,具体来说介绍了基于模型微调、基于数据增强和基于迁移学习这3大类小样本学习模型与算法的研究进展;将基于数据增强的方法细分为基于无标签数据、基于数据合成和基于特征增强这3类,将基于迁移学习的方法细分为基于度量学习、基于元学习和基于图神经网络这3类;总结了目前常用的小样本数据集和代表性的小样本学习模型在这些数据集上的实验结果;随后对小样本学习的现状和挑战进行了概述;最后展望了小样本学习的未来发展方向.
引用
收藏
页码:349 / 369
页数:21
相关论文
共 37 条
[1]
Analysis of multinomial models with unknown index using data augmentation [J].
Royle, J. Andrew ;
Dorazio, Robert M. ;
Link, William A. .
JOURNAL OF COMPUTATIONAL AND GRAPHICAL STATISTICS, 2007, 16 (01) :67-85
[2]
A perspective view and survey of meta-learning [J].
Vilalta, R ;
Drissi, Y .
ARTIFICIAL INTELLIGENCE REVIEW, 2002, 18 (02) :77-95
[3]
自体支气管基底层细胞治疗慢性阻塞性肺疾病的小样本探索性研究 [J].
程林 ;
袁慊 ;
王瑜 ;
冯伟 ;
孙凤军 ;
戴晓天 .
重庆医学, 2019, 48 (23) :4012-4016
[4]
基于二元维纳过程的小样本齿轮泵可靠寿命预测 [J].
刘小平 ;
郭斌 ;
崔德军 ;
吴振宇 ;
张立杰 .
中国机械工程, 2020, 31 (11) :1315-1322
[5]
一种针对小样本的高分辨率遥感影像道路提取方法 [J].
李朝奎 ;
方军 ;
吴馁 ;
宋璟毓 ;
周倩 ;
周青蓝 .
测绘科学, 2020, 45 (04) :81-88
[6]
迁移学习模型下的小样本人脸识别算法 [J].
黄振文 ;
谢凯 ;
文畅 ;
盛冠群 ;
文方青 .
长江大学学报(自然科学版), 2019, 16 (07) :88-94
[7]
基于卷积神经网络的小样本树皮图像识别方法 [J].
刘嘉政 .
西北林学院学报, 2019, (04) :230-235
[8]
深度学习下融合不同模型的小样本表情识别 [J].
林克正 ;
白婧轩 ;
李昊天 ;
李骜 .
计算机科学与探索, 2020, (03) :482-492
[9]
基于深度神经网络的少样本学习综述 [J].
李新叶 ;
龙慎鹏 ;
朱婧 .
计算机应用研究, 2020, 37 (08) :2241-2247
[10]
文本分类研究综述 [J].
汪岿 ;
刘柏嵩 .
数据通信, 2019, (03) :37-47