这是一款提取网站数据的开源工具。Scrapy框架用Python开发而成，它使抓取工作又快又简单，且可扩展。我们已经在virtual box中创建一台虚拟机（VM）并且在上面安装了Ubuntu 14.04

NCrawler是一个简单并且非常高效的多线程网络爬虫。采用C#开发，基于管道的处理器。它包含HTML, Text, PDF, 和 IFilter 文档的处理器并语言检测(Google)。能够很方便添加管道步骤来抽取、使用和修改信息。

NWebCrawler是一款开源，C#开发网络爬虫程序。 特性： 可配置：线程数，等待时间，连接超时，允许MIME类型和优先级，下载文件夹。 统计信息：URL数量，总下载文件，总下载字节数，CPU利用率和可用内存。

PySpider：一个国人编写的强大的网络爬虫系统并带有强大的WebUI。采用Python语言编写，分布式架构，支持多种数据库后端，强大的WebUI支持脚本编辑器，任务监视器，项目管理器以及结果查看器。在线示例：

gecco 1.0.5 发布了， gecco 是 易用的轻量化网络爬虫。 主要改进： 1、修复redirect的相对url的bug 2、增加了支持htmlunit的插件 3、增加抓取JD全部商品的demo

Django+python+BeautifulSoup组合的垂直搜索爬虫 使用python+BeautifulSoup完成爬虫抓取特定数据的工作，并使用Django搭建一个管理平台，用来协调抓取工作。 因为自己很喜欢Django

模拟提交就是说我们不自己登陆到客户端，仅仅靠发送请求就模拟了客户端的操作，在现实使用的时候经常用来接收一些需要登录才能获取到的数据，来模拟表单的提交，所以很多时候也被称作虚拟登录，这次的例子是我自己为学校实验室开发的官方网站的纳

Gecco是一款用java语言开发的轻量化的易用的网络爬虫。Gecco整合了jsoup、httpclient、fastjson、spring、htmlunit、redission等优秀框架，让您只需要

Gecco是一款用java语言开发的轻量化的易用的网络爬虫。Gecco整合了jsoup、httpclient、fastjson、spring、htmlunit、redission等优秀框架，让您只需要

Gecco是一款用java语言开发的轻量化的易用的网络爬虫。Gecco整合了jsoup、httpclient、fastjson、spring、htmlunit、redission等优秀框架，让您只需要

Gecco是一款用java语言开发的轻量化的易用的网络爬虫。Gecco整合了jsoup、httpclient、fastjson、spring、htmlunit、redission等优秀框架，让您只需要

Gecco是一款用java语言开发的轻量化的易用的网络爬虫。Gecco整合了jsoup、httpclient、fastjson、spring、htmlunit、redission等优秀框架，让您只需要

Gecco是一款用java语言开发的轻量化的易用的网络爬虫。Gecco整合了jsoup、httpclient、fastjson、spring、htmlunit、redission等优秀框架，让您只需要

支持 Python2.6 和 Python3.2 的版本了，在后续的版本了会移除对它们的兼容。现在网络上还没有 Tornado4.3 的中文文档，所以为了让更多的朋友能接触并学习到它，我开始了这个翻译

程序大概内容如下： 程序中设置两个队列分别为queue负责存放网址，out_queue负责存放网页的源代码。 ThreadUrl线程负责将队列queue中网址的源代码urlopen，存放到out_queue队列中。 DatamineThread线程负责使用BeautifulSoup模块从out_queue网页的源代码中提取出想要的内容并输出。 这只是一个基本的框架，可以根据需求继续扩展。 程序中有

苹果官方已经证实传闻已久的“AppleBot”网络爬虫存在。这种苹果官方推出的网络爬虫，去年十一月被外界发现。现在，苹果在最近更新的支 持文档当中给出了一些细节。据苹果表示，“AppleBot”网络爬虫主要用于苹果 Siri

Gecco是一款用java语言开发的轻量化的易用的网络爬虫。Gecco整合了jsoup、httpclient、fastjson、spring、htmlunit、redission等优秀框架，让您只需要

Echarts官网的demo都采用的数据都是静态数据，本demo是在Echarts官网入门demo的基础上改的，从后台 获取数据并展示，供入门参考 前端页面代码 <%@ page language="java" contentType="text/html;

webBee 为乐趣而爬 webBee 基于 jdk8 是一个持续成长的 垂直爬虫框架 项目 webBee 遵循 MIT 开源协议 webBee 是一个不错的java进阶项目 欢迎大家贡献代码，如果觉得这个项目不错，请为它

NLPPaperCrawler 本程序主要针对 自然语言处理方向 的学者方便获取Aclweb.org上面与研究方向相关的论文. 本人初学Python和爬虫，不足之处还望谅解. 项目主页： http://www