Java 爬虫框架：seimicrawler v0.2.7 发布
Change log
v0.2.7
-
内嵌http接口在可以接收单个Json形式Request基础上增加支持接收Json数组形式的多个Request
-
Request对象支持设置skipDuplicateFilter用来告诉seimi处理器跳过去重机制，默认不跳过
-
增加定时调度使用Demo
-
回调函数通过Request传递自定义参数值类型由Object改为String，方便明确处理
-
Fix:修复一个打日志的bug
v0.2.6
-
增加统一的启动入口类，配合未来SeimiCrawler的maven构建plugin一起使用
-
meta refresh方式跳转优化，设置最多上限为3次，防止遇到持续刷新页面无法跳出
-
bug fix:修复在Request中自定义数据无法传向Response的问题
v0.2.5
-
增加请求遭遇严重异常时重新打回队列处理机制
当一个请求在经历网络请求异常的重试机制后依然出现非预期异常，那么这个请求会在不超过开发者设置的或是默认的最大重新处理次数的情况下被打回队列重新等待被处理，如果被打回次数达到了最大限制，那么seimi会调用开发者自行覆盖实现的BaseSeimiCrawler.handleErrorRequest(Request request)来处理记录这个异常的请求。重新打回等待处理机制配合delay功能使用可以在很大程度上避免因访问站点的反爬虫策略引起的请求处理异常，并丢失请求的记录的情况。 -
优化去重判断
-
优化不规范页面的编码获取方式
v0.2.4
-
自动跳转增强，除301,302外增加支持识别通过meta refresh方式的页面跳转
-
Response对象增加通过getRealUrl()获取内容对应重定向以及跳转后的真实连接
-
通过注解@Crawler中'useUnrepeated'属性控制是否启用系统级去重机制，默认开启
v0.2.3
-
支持自定义动态代理
开发者可以通过覆盖BaseSeimiCrawler.proxy()来自行决定每次请求所使用的代理，覆盖该方法并返回有效代理地址则@Crawler中proxy属性失效。 -
添加动态代理，动态User-Agent使用demo
v0.2.2
-
增强对不规范网页的编码识别与兼容能力
v0.2.1
-
优化黑白名单正则过滤机制
v0.2.0
-
增加支持内嵌http服务API提交json格式的Request请求
-
增加针对请求URL进行校验的allowRules和denyRules的自定义设置，即白名单规则和黑名单规则，格式均为正则表达式。默认为null不进行检查
-
增加对Request的合法性的统一校验
-
增加支持请求间的delay时间设置
简介
SeimiCrawler是一个敏捷的，独立部署的，支持分布式的Java爬虫框架，希望能在最大程度上降低新手开发一个可用性高且性能不差的爬虫系统的门槛，以及提升开发爬虫系统的开发效率。在SeimiCrawler的世界里，绝大多数人只需关心去写抓取的业务逻辑就够了，其余的Seimi帮你搞定。设计思想上SeimiCrawler受Python的爬虫框架Scrapy启发很大，同时融合了Java语言本身特点与Spring的特性，并希望在国内更方便且普遍的使用更有效率的XPath解析HTML，所以SeimiCrawler默认的HTML解析器是JsoupXpath(独立扩展项目，非jsoup自带),默认解析提取HTML数据工作均使用XPath来完成（当然，数据处理亦可以自行选择其他解析器）。
社区讨论
大家有什么问题或建议现在都可以选择通过下面的邮件列表讨论，首次发言前需先订阅并等待审核通过（主要用来屏蔽广告宣传等）
-
订阅:请发邮件到 seimicrawler+subscribe@googlegroups.com
-
发言:请发邮件到 seimicrawler@googlegroups.com
-
退订:请发邮件至 seimicrawler+unsubscribe@googlegroups.com
项目源码
BTW:
如果您觉着这个项目不错，到github上star一下，我是不介意的 ^_^