
内容介绍
《用python写网络爬虫》讲解了如何使用Python来编写网络爬虫程序,内容包括网络爬虫简介,从页面中抓取数据的三种方法,提取缓存中的数据,使用多个线程和进程来进行并发抓取,如何抓取动态页面中的内容,与表单进行交互,处理页面中的验证码问题,以及使用Scarpy和Portia来进行数据抓取,使用本书介绍的数据抓取技术对几个真实的网站进行了抓取,旨在帮助读者活学活用书中介绍的技术,能够适合有一定Python编程经验,而且对爬虫技术感兴趣的读者阅读。
用python写网络爬虫章节目录
第1章 网络爬虫简介11.1 网络爬虫何时有用 11.2 网络爬虫是否合法 21.3 背景调研 31.3.1 检查robots.txt 31.3.2 检查网站地图 41.3.3 估算网站大小 51.3.4 识别网站所用技术 71.3.5 寻找网站所有者 71.4 编写第一个网络爬虫 81.4.1 下载网页 91.4.2 网站地图爬虫 121.4.3 ID遍历爬虫 131.4.4 链接爬虫 151.5 本章小结 22第2章 数据抓取 232.1 分析网页 232.2 三种网页抓取方法 262.2.1 正则表达式 262.2.2 Beautiful Soup 282.2.3 Lxml 302.2.4 性能对比 322.2.5 结论 352.2.6 为链接爬虫添加抓取回调 352.3 本章小结 38第3章 下载缓存 393.1 为链接爬虫添加缓存支持 393.2 磁盘缓存 423.2.1 实现 443.2.2 缓存测试 463.2.3 节省磁盘空间 463.2.4 清理过期数据 473.2.5 缺点 483.3 数据库缓存 493.3.1 NoSQL是什么 503.3.2 安装MongoDB 503.3.3 MongoDB概述 503.3.4 MongoDB缓存实现 523.3.5 压缩 543.3.6 缓存测试 543.4 本章小结 55第4章 并发下载 574.1 100万个网页 574.2 串行爬虫 604.3 多线程爬虫 604.3.1 线程和进程如何工作 614.3.2 实现 614.3.3 多进程爬虫 634.4 性能 674.5 本章小结 68第5章 动态内容 695.1 动态网页示例 695.2 对动态网页进行逆向工程 725.3 渲染动态网页 775.3.1 PyQt还是PySide 785.3.2 执行JavaScript 785.3.3 使用WebKit与网站交互 805.3.4 Selenium 855.4 本章小结 88第6章 表单交互 896.1 登录表单 906.2 支持内容更新的登录脚本扩展 976.3 使用Mechanize模块实现自动化表单处理 1006.4 本章小结 102第7章 验证码处理 1037.1 注册账号 1037.2 光学字符识别 1067.3 处理复杂验证码 1117.3.1 使用验证码处理服务 1127.3.2 9kw入门 1127.3.3 与注册功能集成 1197.4 本章小结 120第8章 Scrapy 1218.1 安装 1218.2 启动项目 1228.2.1 定义模型 1238.2.2 创建爬虫 1248.2.3 使用shell命令抓取 1288.2.4 检查结果 1298.2.5 中断与恢复爬虫 1328.3 使用Portia编写可视化爬虫 1338.3.1 安装 1338.3.2 标注 1368.3.3 优化爬虫 1388.3.4 检查结果 1408.4 使用Scrapely实现自动化抓取 1418.5 本章小结 142第9章 总结 1439.1 Google搜索引擎 1439.2.1 网站 1489.2.2 API 1509.3 Gap 1519.4 宝马 1539.5 本章小结 157
使用说明
1、下载并解压,得出pdf文件2、如果打不开本文件,请务必下载pdf阅读器
3、安装后,在打开解压得出的pdf文件
4、双击进行阅读>
下载仅供下载体验和测试学习,不得商用和正当使用。
下载体验