皇上,还记得我吗?我就是1999年那个Linux伊甸园啊-----24小时滚动更新开源资讯,全年无休!

Web 爬虫 Apache Nutch 1.16 发布

Apache Nutch 1.16 发布了。Nutch是一个成熟的、可用于生产的 Web 爬虫。 Nutch 1.x 可以依靠 Apache Hadoop™ 数据结构进行细粒度配置,这对于批处理非常有用。

此版本包含 100 多个错误修复和改进,主要更新内容如下:

新特性

  • [NUTCH-2676] – 更新至最新的 selenium,并添加代码以通过远程 Web 驱动程序使用 chrome 和 firefox 无头模式

Bug 修复

  • [NUTCH-1063] – OutlinkExtractor 测试会生成异常,但不会失败
  • [NUTCH-1842] – crawl.gen.delay 在 nutch-default.xml 中具有错误的默认值,或者被错误地解析
  • [NUTCH-2279] – 使用 Hadoop MR 输出压缩时 LinkRank 失败
  • [NUTCH-2381] – 在某些情况下,类 TextProfileSignature 为同一文本“配置文件”页面提供不同的签名
  • [NUTCH-2387] – Nutch 不应使用 “noindex” 元索引文件
  • [NUTCH-2457] – Tika 可能无法正确解析嵌入的文档
  • [NUTCH-2475] – If 和 else-if 分支的条件相同
  • [NUTCH-2482] – index-geoip 不向文档字段添加空值
  • [NUTCH-2585] – TrieStringMatcher 中的 NPE
  • [NUTCH-2598] – URLNormalizerChecker 在输入中的无效 URL 上失败
  • ……

详情见更新说明

转自 https://www.oschina.net/news/110655/nutch-1-16-released

分享到:更多 ()