纯python实现的爬虫框架，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片。下图显示了Scrapy的大体架构，其中包含了它的主要组件及系统的数据处理流程（绿色箭头所

Spidr是一个多功能的Ruby web 爬虫库。它可以抓取一个网站，多个域名或某些链接。Spidr被设计成快速和容易使用。 具体特性： Follows: a tags. iframe tags.

HiSpider是一个快速和高性能的网页爬虫。 严格说只能是一个spider系统的框架, 没有细化需求, 目前只是能提取URL, URL排重, 异步DNS解析, 队列化任务, 支持N机分布式下载,

OpenWebSpider是一个开源多线程Web爬虫和包含许多有趣功能的搜索引擎。 OpenWebSpider的使用方法。 一般情况下我们通过在CMD下输入 openwebspider

是一个用Perl语言开发可扩展的Web资源爬虫程序。 SearchEngine-in-a-Box 系统的一部分 高度可配置 聚焦爬行模式的综合自动化主题分类 可以使用任何主题聚焦爬行模式分类器 抓取URL的正则表达式，既包括和排除

在爬取网站内容的时候，最常遇到的问题是：网站对IP有限制，会有防抓取功能，最好的办法就是IP轮换抓取（加代理）下面来说一下Scrapy如何配 在爬取网站内容的时候，最常遇到的问题是：网站对IP有限

tutorial/spiders/: 你将要放入你的spider到这个目录中。 定义我们的 Item Items是装载我们抓取数据的容器。它们工作像简单的Python字典,它提供更多的保护,比如对未定义的字段提供填充功能防止出错。

heyDr是一款基于java的轻量级开源多线程垂直检索爬虫框架，遵循GNU GPL V3协议。 用户可以通过heyDr构建自己的垂直资源爬虫，用于搭建垂直搜索引擎前期的数据准备。 项目主页：

Grab是一个Python开源Web爬虫框架。Grab提供非常多实用的方法来爬取网站和处理爬到的内容： Automatic cookies (session) support HTTP and SOCKS

前言 爬虫和反爬虫日益成为每家公司的标配系统。爬虫在 情报获取、虚假流量、动态定价、恶意攻击、薅羊毛 等方面都能起到很关键的作用，所以每家公司都或多或少的需要开发一些爬虫程序，业界在这方面的成熟的

Pholcus（幽灵蛛）是一款纯Go语言编写的重量级爬虫软件，清新的GUI界面，优雅的爬虫规则、可控的高并发、任意的批量任务、多种输出方式、大量Demo，支持横纵向两种抓取模式，支持模拟登录和任务取消等，并且考虑了支持分布式布局。

下载地址请点 这里 。 Pholcus（幽 灵蛛）是一款纯Go语言编写的重量级爬虫软件，清新的GUI界面，优雅的爬虫规则、可控的高并发、任意的批量任务、多种输出方式、大量Demo，更重要的 是它支持

python编写的抓京东商品的爬虫 闲着没事尝试抓一下京东的数据，需要使用到的库有：BeautifulSoup，urllib2，在Python2下测试通过from creepy import Crawler

34728 微博终结者爬虫 关于聊天对话系统我后面会开源一个项目，这个repo目的是基于微博构建一个高质量的对话语料，本项目将继续更进开发 这个项目致力于对抗微博的反爬虫机制，集合众人的力量把

Pholcus（幽灵蛛）是一款纯Go语言编写的重量级爬虫软件，清新的GUI界面，优雅的爬虫规则、可控的高并发、任意的批量任务、多种输出方式、大量Demo，支持横纵向两种抓取模式，支持模拟登录和任务取消等，并且考虑了支持分布式布局。

封装Spider与Response为上下文Context，大大简化规则语法； 2. 支持从Context获取上一次Request，并可在修改后作为新请求加入队列，从而节约内存（如有依赖Request的Temp

Cola Cola是一个分布式的爬虫框架，用户只需编写几个特定的函数，而无需关注分布式运行的细节。任务会自动分配到多台机器上，整个过程对用户是透明的。 依赖 首先，确保Python版本为2.6或者2

用JAVA编写的web 搜索和爬虫，包括全文和分类垂直搜索，以及分词系统。 项目主页： http://www.open-open.com/lib/view/home/1337008196400

1、初始化一个或者多个入口链接为初始状态到链接表 2、爬虫爬取的黑名单和白名单，只有匹配白名单中的某一个且不匹配黑名单中的任何一个的链接才能通过 3、从链接表中取链接并置为下载状态，下载该链接的网页 4、把下载到的网页插入到内容表

github-issue-mover 是能快速迁移 github 上问题的工具。