Python爬虫如何入门

   <p>学爬虫是循序渐进的过程，作为零基础小白，大体上可分为三个阶段，第一阶段是入门，掌握必备的基础知识，第二阶段是模仿，跟着别人的爬虫代码学，弄懂每一行代码，第三阶段是自己动手，这个阶段你开始有自己的解题思路了，可以独立设计爬虫系统。</p>    <p>爬虫涉及的技术包括但不限于熟练一门编程语言（这里以 Python 为例） HTML 知识、HTTP/HTTPS 协议的基本知识、正则表达式、数据库知识，常用抓包工具的使用、爬虫框架的使用、涉及到大规模爬虫，还需要了解分布式的概念、消息队列、常用的数据结构和算法、缓存，甚至还包括机器学习的应用，大规模的系统背后都是靠很多技术来支撑的。爬虫只是为了获取数据，分析、挖掘这些数据才是价值，因此它还可以延伸到数据分析、数据挖掘等领域，给企业做决策，所以作为一名爬虫工程师，是大有可为的。</p>    <p>那么是不是一定要把上面的知识全学完了才可以开始写爬虫吗？当然不是，学习是一辈子的事，只要你会写 Python 代码了，就直接上手爬虫，好比学车，只要能开动了就上路吧，当然写代码可比开车安全多了。</p>    <p>用 Python 写爬虫，首先需要会 Python，把基础语法搞懂，知道怎么使用函数、类和常用的数据结构如 list、dict 中的常用方法就算基本入门。接着你需要了解 HTML，HTML 就是一个文档树结构，网上有个 <a href="/misc/goto?guid=4959751575039242919" rel="nofollow,noindex">HTML 30分钟入门教程</a> 够用了。然后是关于 HTTP 的知识，爬虫基本原理就是通过网络请求从远程服务器下载数据的过程，而这个网络请求背后的技术就是基于 HTTP 协议。作为入门爬虫来说，你需要了解 HTTP协议的基本原理，虽然 HTTP 规范用一本书都写不完，但深入的内容可以放以后慢慢去看，理论与实践相结合。</p>    <p>网络请求框架都是对 HTTP 协议的实现，比如著名的网络请求库 Requests 就是一个模拟浏览器发送 HTTP 请求的网络库。了解 HTTP 协议之后，你就可以专门有针对性的学习和网络相关的模块了，比如 Python 自带有 urllib、urllib2（Python3中的urllib），httplib，Cookie等内容，当然你可以直接跳过这些，直接学习 Requests 怎么用，前提是你熟悉了 HTTP协议的基本内容。这里不得不推荐的一本书是《图解HTTP》。数据爬下来，大部分情况是 HTML 文本，也有少数是基于 XML 格式或者 Json 格式的数据，要想正确处理这些数据，你要熟悉每种数据类型的解决方案，比如JSON数据可以直接使用 Python自带的模块 json，对于 HTML 数据，可以使用 BeautifulSoup、lxml 等库去处理，对于 xml 数据，除了可以使用 untangle、xmltodict等第三方库。</p>    <p>入门爬虫，学习正则表达式并不是必须的，你可以在你真正需要的时候再去学，比如你把数据爬取回来后，需要对数据进行清洗，当你发现使用常规的字符串操作方法根本没法处理时，这时你可以尝试了解一下正则表达式，往往它能起到事半功倍的效果。Python 的 re 模块可用来处理正则表达式。这里也推荐几个教程： <a href="/misc/goto?guid=4959751575136517374" rel="nofollow,noindex">正则表达式30分钟入门教程</a> <a href="/misc/goto?guid=4959751575217380350" rel="nofollow,noindex">Python正则表达式指南</a> <a href="/misc/goto?guid=4959751575301910878" rel="nofollow,noindex">正则表达式完全指南</a></p>    <p>数据清洗完最终要进行持久化存储，你可以用文件存储，比如CSV文件，也可以用数据库存储，简单的用 sqlite，专业点用 MySQL，或者是分布式的文档数据库 MongoDB，这些数据库对Python都非常友好，有现成的库支持。 <a href="/misc/goto?guid=4959751575378685728" rel="nofollow,noindex">Python操作MySQL数据库</a> <a href="/misc/goto?guid=4959751575467979478" rel="nofollow,noindex">通过Python连接数据库</a></p>    <p>从数据的抓取到清洗再到存储的基本流程都走完了，也算是基本入门了，接下来就是考验内功的时候了，很多网站都设有反爬虫策略，他们想方设法阻止你用非正常手段获取数据，比如会有各种奇奇怪怪的验证码限制你的请求操作、对请求速度做限制，对IP做限制、甚至对数据进行加密操作，总之，就是为了提高获取数据的成本。这时你需要掌握的知识就要更多了，你需要深入理解 HTTP 协议，你需要理解常见的加解密算法，你要理解 HTTP 中的 cookie，HTTP 代理，HTTP中的各种HEADER。爬虫与反爬虫就是相爱相杀的一对，道高一次魔高一丈。如何应对反爬虫没有既定的统一的解决方案，靠的是你的经验以及你所掌握的知识体系。这不是仅凭21天入门教程就能达到的高度。</p>    <h2>数据结构和算法</h2>    <p>进行大规模爬虫，通常都是从一个URL开始爬，然后把页面中解析的URL链接加入待爬的URL集合中，我们需要用到队列或者优先队列来区别对待有些网站优先爬，有些网站后面爬。每爬去一个页面，是使用深度优先还是广度优先算法爬取下一个链接。每次发起网络请求的时候，会涉及到一个DNS的解析过程（将网址转换成IP）为了避免重复地 DNS 解析，我们需要把解析好的 IP 缓存下来。URL那么多，如何判断哪些网址已经爬过，哪些没有爬过，简单点就是是使用字典结构来存储已经爬过的的URL，但是如果碰过海量的URL时，字典占用的内存空间非常大，此时你需要考虑使用 Bloom Filter（布隆过滤器），用一个线程逐个地爬取数据，效率低得可怜，如果提高爬虫效率，是使用多线程，多进程还是协程，还是分布式操作。</p>    <h2>关于实践</h2>    <p>网上的爬虫教程多如牛毛，原理大体相同，只不过是换个不同的网站进行爬取，你可以跟着网上的教程学习模拟登录一个网站，模拟打卡之类的，爬个豆瓣的电影、书籍之类的。通过不断地练习，从遇到问题到解决问题，这样的收获看书没法比拟的。</p>    <h2>爬虫常用库</h2>    <ul>     <li>urllib、urlib2（Python中的urllib）python内建的网络请求库</li>     <li>urllib3：线程安全的HTTP网络请求库</li>     <li>requests：使用最广泛的网络请求库，兼容py2和py3</li>     <li>grequests：异步的requests</li>     <li>BeautifulSoup：HTML、XML操作解析库</li>     <li>lxml：另一种处理 HTML、XML的方式</li>     <li>tornado：异步网络框架</li>     <li>Gevent：异步网络框架</li>     <li>Scrapy：最流行的爬虫框架</li>     <li>pyspider：爬虫框架</li>     <li>xmltodict：xml转换成字典</li>     <li>pyquery：像jQuery一样操作HTML</li>     <li>Jieba ：分词</li>     <li>SQLAlchemy：ORM框架</li>     <li>celery ：消息队列</li>     <li>rq：简单消息队列</li>     <li>python-goose ：从HTML中提取文本</li>    </ul>    <h2>书籍</h2>    <ul>     <li>《图解HTTP》</li>     <li>《HTTP权威指南》</li>     <li>《计算机网络：自顶向下方法》</li>     <li>《用Python写网络爬虫》</li>     <li>《Python网络数据采集》</li>     <li>《精通正则表达式》</li>     <li>《Python入门到实践》</li>     <li>《自己动手写网络爬虫》</li>     <li>《Crypto101》</li>     <li>《图解密码技术》</li>    </ul>    <h2>教程</h2>    <ul>     <li><a href="/misc/goto?guid=4959751575545490333" rel="nofollow,noindex">Python爬虫学习系列教程</a></li>     <li><a href="/misc/goto?guid=4959751575631746678" rel="nofollow,noindex">Python入门网络爬虫之精华版</a></li>     <li><a href="/misc/goto?guid=4959751575711697603" rel="nofollow,noindex">Python网络爬虫</a></li>     <li><a href="/misc/goto?guid=4959751575789154798" rel="nofollow,noindex">爬虫入门系列</a></li>    </ul>    <p>关注公众号『Python之禅』（id：vttalk）获取最新文章</p>    <p><img src="https://simg.open-open.com/show/ebf4fbab6fe248a3bbc44048cb495c3f.jpg"></p>    <p> </p>    <p>来自：https://foofish.net/python-crawler.html</p>    <p> </p>