HtmlExtractor 1.1 发布,网页信息抽取组件
jopen 9年前
HtmlExtractor是一个Java实现的基于模板的网页结构化信息精准抽取组件,本身并不包含爬虫功能,但可被爬虫或其他程序调用以便更精准地对网页结构化信息进行抽取。
HtmlExtractor是为大规模分布式环境设计的,采用主从架构,主节点负责维护抽取规则,从节点向主节点请求抽取规则,当抽取规则发生变化,主节点主动通知从节点,从而能实现抽取规则变化之后的实时动态生效。
在本次发布的1.1版本中,对API做了更合理的重构,并给出了详细的使用方法,除了抽取组件,还加入了网页抓取组件,能执行JS,支持动态渲染的页面等。