上面的入门教程是很基础的，先跟着作者走一遍，要动起来哟，不要只是阅读上面的那篇入门教程，下面我简单总结一下Scrapy爬虫过程： 1、在Item中定义自己要抓取的数据 ： movie_name就像是字典中的“键”，爬到的数据就像似字典中的“值”。

scrape 是一个使用 Go 语言开发的简单高级Web 爬虫。 示例代码： package main import ( "fmt" "net/http" "github.com/yhat/scrape"

larbin是一种开源的网络爬虫/网络蜘蛛，由法国的年轻人 Sébastien Ailleret独立开发。larbin目的是能够跟踪页面的url进行扩展的抓取，最后为搜索引擎提供广泛的数据来源。Larbin只是一个爬虫，也就

开源爬虫Labin，Nutch，Neritrix介绍和对比 2 6 从网上找了一些开源spider的相关资料，整理在下面： Larbin 开发语言：C++ http://larbin.sourceforge

Crowbar: 基于Mozilla浏览器的 ajax 爬虫，还可作为远程浏览器使用，比较有意思。 项目主页： http://www.open-open.com/lib/view/home/1324864120014

一个开源的JAVA爬虫，包含了一套爬虫的内核和一套完整的爬虫。内核具有很强的扩展性，用户可以在内核基础上开发自己想要的爬虫。源码中集成了Jsoup，可进行精准的网页解析。 项目主页：

有前人分析了知乎日报、凤凰新闻等 API，根据相应的 URL 可以获取新闻的 JSON 数据。为了锻炼写代码能力，笔者打算爬虫新闻页面，自己获取数据构建 API。 本文链接 http://blog.csdn.net/ne

BlueLeech是一个开源程序，它从指定的URL开始，搜索所有可用的链接，以及链接之上的链接。它在搜索的同时可以下载遇到的链接所指向的所有的或预定义的范围的内容。

寒假开始学习一些简答的爬虫并且做一些有意义的事情。 首先，百度一下爬虫的意思： 网络爬虫：网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的

起因 做过爬虫的人应该都知道，抓的网站和数据多了，如果爬虫抓取速度过快，免不了触发网站的防爬机制，几乎用的同一招就是封IP。解决方案有2个： 1、同一IP，放慢速度(爬取速度慢) 2、使用代理IP访问(推荐)

修改以适用jdk1.5。以这个程序为基础，可以写出在互联网上搜索 诸如图像、邮件、网页下载之类的“爬虫”。 先请看程序运行的过程： D:\java>javac SearchCrawler.java（编译）

Upton 是一个采用Ruby开发，用于简化web抓取的框架，包含了实用的调试模式。它提供了公共/重复的部分，所以你只需要编写网站特有的部分。

WebLech URL Spider是一个功能强大的Web站点下载与镜像工具。它支持按功能需求来下载web站点并能够尽可能模仿标准Web浏览器的行为。WebLech有一个功能控制台并采用多线程操作。

ItSucks是一个Java Web爬虫开源项目。可灵活定制，支持通过下载模板和正则表达式来定义下载规则。提供一个控制台和Swing GUI操作界面。 功能特性: 多线程 正则表达式 保存/载入的下载工作

Goutte 是一个抓取网站数据的 PHP 库。它提供了一个优雅的 API，这使得从远程页面上选择特定元素变得简单。

最近的一个项目是写一个爬虫框架，这个框架主要采用Master-Slave的结构，Master负责管理要爬取的Url和已经爬取过的Url，Slave可以有多个，主要负责爬取网页内容，以及对爬取下来的网页

Egg简单小巧，效率很高，速度很快，配置简单方便，接口简洁，适合多种数据访问方式。实测，在20M无线网下(隔了个墙，所以有时不稳定)速度稳定在1.2-2.5M/S,峰值可以达到3M.实测抓取百度百科，1000网页大概在 17-20秒左右。10000在1：50-2:30左右。

像我一样，充满好奇心，希望深入地了解web抓取。 挑战 让我们从一个简单地挑战——网络爬虫开始，让这个爬虫爬取 Techmeme ，并获得一个当天热门新闻列表！ 注意： 在这里我将会使用DZo

使用HTTPClient 的网络爬虫 说到爬虫，使用Java本身自带的URLConnection可以实现一些基本的抓取页面的功能，但是对于一些比较高级的功能，比如重定向的处理，HTML标记的去除，仅

一个基于gevent的爬虫框架，最初的版本在一定程度上模仿了scrapy。 项目主页： http://www.open-open.com/lib/view/home/1351753949426