Goutte 是一个抓取网站数据的 PHP 库。它提供了一个优雅的 API，这使得从远程页面上选择特定元素变得简单。

最近的一个项目是写一个爬虫框架，这个框架主要采用Master-Slave的结构，Master负责管理要爬取的Url和已经爬取过的Url，Slave可以有多个，主要负责爬取网页内容，以及对爬取下来的网页

，像我一样，充满好奇心，希望深入地了解web抓取。 挑战 让我们从一个简单地挑战——网络爬虫开始，让这个爬虫爬取 Techmeme ，并获得一个当天热门新闻列表！ 注意： 在这里我将会使用DZ

一个基于gevent的爬虫框架，最初的版本在一定程度上模仿了scrapy。 项目主页： http://www.open-open.com/lib/view/home/1351753949426

phpcrawl是一个爬虫/蜘蛛功能的基于php开发的框架，所以我们称它为网站或爬虫的PHP库。

Portia是 scrapyhub 开源的一款可视化的爬虫规则编写工具。它提供可视化的Web页面，你只需要通过点击标注页面上你需要抽取的数据，不需要任何编程知识即可完成规则的开发。 这些规则可以在#Scrapy#中使用，用于抓取页面。

html 由于工作中有个项目需要爬取第三方网站的内容，所以在Linux下使用Perl写了个简单的爬虫。 相关工具 1. HttpWatch/浏览器开发人员工具 一般情况下这个工具是用不到的，

从写nodejs的第一个爬虫开始陆陆续续写了好几个爬虫，从爬拉勾网上的职位信息到爬豆瓣上的租房帖子，再到去爬知乎上的妹子照片什么的，爬虫为我打开了一扇又一扇新世界的大门。除了涨了很多姿势之外，与网管斗

JSpider是: 一个高度可配置和和可定制 Web爬虫 LGPL开源许可下开发 100％纯Java实现 您可以使用它来： 检查您网站的错误(内部服务器错误, ...) 传出或内部链接检查 分析你网站的结构(创建一个sitemap

世界上已经成型的爬虫软件多达上百种，本文对较为知名及常见的开源爬虫软件进行梳理，按开发语言进行汇总，如下表所示。虽然搜索引擎也有爬虫，但本次我汇总的只是爬虫软件，而非大型、复杂的搜索引擎，因为很多兄弟只是想爬取数据，而非运营一个搜索引擎。

1. larbin简介 larbin是一种开源的网络爬虫/网络蜘蛛，由法国的年轻人Sébastien Ailleret独立开发，用c++语言实现。larbin目的是能够跟踪页面的url进行扩展的抓取，最后为搜索引擎提供广泛的数据来源。

*************** 陕西同兴网络信息有限责任公司第三分公司 # *********************************** 西安高兴网络科技有限公司 # ***********

Connector 是一个PHP类可用来抓取远程的Web网页，可连接到 HTTP 代理服务器并访问 Tor 网络来访问任何网站。 项目主页： http://www.open-open.com/lib

NCrawler 是一个Web Crawler 工具，它可以让开发人员很轻松的发展出具有Web Crawler 能力的应用程式，并且具有可以延展的能力。

Arachnid是一个基于Java的web spider框架.它包含一个简单的HTML剖析器能够分析包含HTML内容的输入流.通过实现Arachnid的子类就能够开发一个简单的Web spiders并能够在Web站上的每个页面被解析之后增加几行代码调用。

易于使用的Web页面数据提取PHP类库，只需要几行代码。使用XPath 或 CSS Selector可以从任意网站抓取数据。

是一个业余时间开发的，支持多线程，支持关键字过滤，支持正文内容智能识别的爬虫。 爬虫的核心实现在ScrapingSpider.Core程序集中。爬虫类为Spider类，爬虫的爬取逻辑，与页面处理逻辑通过事件分离，两个关键

电影海报可以吸引人们的注意力。那么问题来了，不同风格的电影海报对颜色有什么样的偏好呢？ 利用 Python 爬取海报数据 为了回答这个问题，我们需要分析不同风格电影的海报情况。首先，我们需要构建一个电影海报数据的数据集，因此我利用

曾经因为 NLTK 的缘故开始学习Python，之后渐渐成为我工作中的第一辅助脚本语言，虽然开发语言是C/C++，但平时的很多文本数据处理任务都交给了Python。离开腾讯创业后，第一个作品 课程图谱

Ugly-Distributed-Crawler 简陋的分布式爬虫 新手向，基于Redis构建的分布式爬虫。 以爬取考研网的贴子为例，利用 PyQuery, lxml 进行解析，将符合要求的文章文本存入MySQ数据库中。