基于Python的多线程网络爬虫的设计与实现

被引:15
作者
孙冰
机构
[1] 中国石油大学计算机与通信工程学院
关键词
Python; 网络爬虫; 多线程;
D O I
暂无
中图分类号
TP391.3 [检索机]; TP393.092 [];
学科分类号
摘要
本文主要详细介绍如何应用Python语言实现一个多线程的网络爬虫程序,并在此基础上搭建特定的测试网站将串行爬虫程序和多线程爬虫程序的运行效率进行对比,进而给出提高网络爬虫性能的具体方法。
引用
收藏
页码:38 / 39
页数:2
相关论文
共 5 条
  • [1] 基于Python的专业网络爬虫的设计与实现
    姜杉彪
    黄凯林
    卢昱江
    张俊杰
    曾志高
    刘强
    [J]. 企业科技与发展, 2016, (08) : 17 - 19
  • [2] 线程切换开销分析工具的设计与实现
    阳国贵
    姜波
    [J]. 计算机应用, 2010, 30 (08) : 2052 - 2055+2072
  • [3] 分布式网络爬虫技术研究与实现[D]. 王毅桐.电子科技大学. 2012
  • [4] 垂直搜索引擎中网络蜘蛛的设计与实现[D]. 薛建春.中国地质大学(北京). 2007
  • [5] 用Python写网络爬虫[M]. 人民邮电出版社 , 理查德·劳森, 2016