基于Ignite+Lucene+Log4j2的分布式统一日志查询最佳实践

   <h2>1.背景</h2>    <p>应用开发时的常规做法，是调用日志系统的API进行日志的记录，日志的具体记录方式，通过日志系统实现库对应的配置文件进行配置，比如使用log4j2的话，可能就是 log4j2.xml 文件，日志通常是记录到文件中的，如果要查看日志，就得登录该服务器进行实地查看。这样如果应用以集群的方式进行部署，然后又不知道问题出现在哪台服务器，这时就需要登录每一台服务器，这给系统的开发、测试和运维带来了很多的麻烦。</p>    <p>但是和时下的互联网公司不同，企业级应用通常不需要对日志进行分析，通过正常的数据存储，比如数据库，就可以获得绝大部分想要的数据。</p>    <h2>2.目标</h2>    <p>问题是比较明确的，需求也比较清晰，就是希望能设计一套解决方案解决这个问题，大致整理一下，应该包括如下技术点：</p>    <ul>     <li><strong>对应用透明</strong> ：对应用的开发者而言，还是像原来那样记录日志，不需要关注日志是如何记录、以什么形式保存在哪里的；</li>     <li><strong>有相当的灵活性</strong> ：希望是可以灵活配置的，除了可以按照关键字查询外，最好还可以灵活地自定义其他的维度，方便根据具体的业务场景，进行有针对性的查询，比如按照时间段进行查询，按照具体的业务指标进行查询等；</li>     <li><strong>有统一的查询界面</strong> ：通过一个统一的界面，能够查询到整个集群范围内的日志，比如输入某个关键词，无需关注日志保存在哪台服务器上；</li>     <li><strong>有较高的性能</strong> ：保证有较高的查询速度；</li>     <li><strong>低资源占用</strong> ：占用较少的系统资源，包括CPU、内存，甚至不需要单独的服务器进行部署；</li>     <li><strong>部署简单</strong> ：不需要复杂的配置，部署简单。</li>    </ul>    <h2>3.架构方案</h2>    <p>在综合考虑了前述背景、约束以及设计目标，综合考虑了现有开源社区的解决方案之后，我们决定采用 Lucene + Ignite + Log4j2 的技术方案，整体架构图如下：</p>    <p style="text-align: center;"><img src="https://simg.open-open.com/show/d539258db1b336df06d1e2174e8326f5.png"></p>    <p>大致描述下设计思路：</p>    <ul>     <li><strong>技术选型</strong> ：整个技术方案，涉及了三个流行的开源库，分别是： Lucene 、 Ignite 、 Log4j2 ，我们使用的版本分别是 5.5.4 、 1.9.0 和 2.7 ，他们起的作用如下：      <ul>       <li><strong>Lucene</strong> ：用于日志的存储、索引和查询，它为开发者提供了简单明了的API，使用非常方便， Lucene 在这个技术方案中，是实现目标的基础；</li>       <li><strong>Ignite</strong> ：在这个技术方案中使用了 Ignite 的服务网格和计算网格技术，这里， Ignite 的服务用于对查询系统暴露接口， Ignite 中基于 MapReduce 范式的嵌入式分布式计算用于任务的分发，查询结果的汇总。 Ignite 在本技术方案中并非必需，但是使用 Ignite 的简单API，可以大幅降低本技术方案的实现难度和开发工作量，也使本技术方案变得优雅；</li>       <li><strong>Log4j2</strong> ：本技术方案中的另一个关键点，就是对 Log4j2 进行了扩展，自定义了一套基于 Lucene 的 Appender 实现以及对应的 log4j2.xml 配置方案，它解决了对应用透明的问题，还是整个方案具有灵活性的关键，就是具体对那些属性建立索引、输出那些信息以及输出信息的格式、数据的类型都是在 log4j2.xml 中进行配置的。</li>      </ul> </li>     <li><strong>执行流程</strong> ：      <ul>       <li><strong>log4j2.xml配置</strong> ：首先要进行 log4j2.xml 文件的配置，配置方式后面会介绍；</li>       <li><strong>日志的记录</strong> ： log4j2.xml 配置好之后，对于应用来说，就按照正常的日志记录方式写代码即可，没有特别的要求，唯一特别要注意的是，如果要针对特别的业务指标建立索引，以名为 id 的变量为例，那么需要在代码中对相关的上下文变量进行赋值，大体为： ThreadContext.put("id", id); ；</li>       <li><strong>Ignite服务的调用</strong> ：用户通过查询界面输入关键词之后，后台会通过 Ignite 服务发布出来的接口调用远程业务系统的服务实现进行实际日志的查询。这里 Ignite 服务的部署，可以是集群单例，也可以是每节点单例，如果是每节点单例，调用时 Ignite 会以负载平衡的方式随机地选择一个节点；</li>       <li><strong>任务的分发</strong> ：服务的实现会调用 Ignite 计算网格的任务（Task），任务会按照集群节点的数量生成对应数量的作业（Job），如果作业数和节点数相等， Ignite 会将这些作业平均分到每一个节点上去执行；</li>       <li><strong>作业的执行</strong> ：作业的执行过程就是调用 Lucene 的API进行实际的查询了，这里没什么特别的，如果只是通过关键字进行查询，会比较简单，如果想通过多维度进行精确地查询，API调用方面会复杂一点，但是都不是难事，不会的可以百度；</li>       <li><strong>任务的汇总</strong> ：各个节点查询的结果集，需要汇总后返回给调用端；</li>      </ul> </li>    </ul>    <h2>4.关键技术点</h2>    <h3>4.1.Ignite</h3>    <p>Apache Ignite内存数据组织平台是一个高性能、集成化、混合式的企业级分布式架构解决方案，核心价值在于可以帮助我们实现分布式架构透明化，开发人员根本不知道分布式技术的存在，可以使分布式缓存、计算、存储等一系列功能嵌入应用内部，和应用的生命周期一致，大幅降低了分布式应用开发、调试、测试、部署的难度和复杂度。</p>    <h3>4.2.Ignite服务网格</h3>    <p>Ignite 服务网格以一种优雅的方式实现了分布式RPC，定义一个服务非常简单：</p>    <p>下面通过一个简单的示例演示下 Ignite 服务的定义、实现、部署和调用：</p>    <h2>4.2.1.服务定义</h2>    <pre>  public interface MyCounterService {      int get() throws CacheException;  }</pre>    <h2>4.2.2.服务实现</h2>    <pre>  public class MyCounterServiceImpl implements Service, MyCounterService {    @Override public int get() {      return 0;    }  }</pre>    <h2>4.2.3.服务部署</h2>    <pre>  ClusterGroup cacheGrp = ignite.cluster().forCache("myCounterService");  IgniteServices svcs = ignite.services(cacheGrp);  svcs.deployNodeSingleton("myCounterService", new MyCounterServiceImpl());</pre>    <h2>4.2.4.服务调用</h2>    <pre>  MyCounterService cntrSvc = ignite.services().    serviceProxy("myCounterService", MyCounterService.class, /*not-sticky*/false);  System.out.println("value : " + cntrSvc.get());</pre>    <p>是不是很简单？</p>    <h3>4.3.Ignite计算网格</h3>    <p>Ignite的分布式计算是通过 IgniteCompute 接口提供的，它提供了在集群节点或者一个集群组中运行很多种类型计算的方法，这些方法可以以一个分布式的形式执行任务或者闭包。</p>    <p>本方案中采用的是 ComputeTask 方式，它是 Ignite 对于简化内存内 MapReduce 的抽象。 ComputeTask 定义了要在集群内执行的作业以及这些作业到节点的映射，还定义了如何处理作业的返回值(Reduce)。所有的 IgniteCompute.execute(...) 方法都会在集群上执行给定的任务，应用只需要实现 ComputeTask 接口的 map(...) 和 reduce(...) 方法即可，这几个方法的详细描述不在本文讨论的范围内。</p>    <p>下面是一个 ComputeTask 的简单示例：</p>    <pre>  IgniteCompute compute = ignite.compute();  int cnt = compute.execute(CharacterCountTask.class, "Hello Grid Enabled World!");  System.out.println(">>> Total number of characters in the phrase is '" + cnt + "'.");  private static class CharacterCountTask extends ComputeTaskSplitAdapter<String, Integer> {    @Override     public List<ClusterNode> split(int gridSize, String arg) {      String[] words = arg.split(" ");      List<ComputeJob> jobs = new ArrayList<>(words.length);      for (final String word : arg.split(" ")) {        jobs.add(new ComputeJobAdapter() {          @Override public Object execute() {            System.out.println(">>> Printing '" + word + "' on from compute job.");            return word.length();          }        });      }      return jobs;    }    @Override     public Integer reduce(List<ComputeJobResult> results) {      int sum = 0;      for (ComputeJobResult res : results)        sum += res.<Integer>getData();      return sum;    }  }</pre>    <p>通过这样一个简单的类，就实现了梦寐以求的分布式计算！</p>    <h3>4.4.自定义的Log4j LuceneAppender扩展</h3>    <p>本方案的自定义log4j LuceneAppender 扩展，是做到应用无感知，高灵活性和高性能的关键， LuceneAppender 的具体实现，不在本文的讨论范围内，但是要介绍下本方案的配置方式，大体配置方式如下（简略）：</p>    <pre>  <Lucene name="luceneAppender" ignoreExceptions="true" target="target/lucene/index" expiryTime="1296000">      <IndexField name="logId" pattern="$${ctx:logId}" />      <IndexField name="time" pattern="%d{UNIX_MILLIS}" type = "LongField"/>      <IndexField name="level" pattern="%-5level" />      <IndexField name="content" pattern="%class{36} %L %M - %msg%xEx%n" />  </Lucene></pre>    <p>其中： target 属性表示索引文件的位置， expiryTime 属性表示索引过期时间（秒）， IndexField 标签表示具体的索引项，其中 name 属性是字段名， pattern 属性同 log4j 自身的 pattern 属性， type 属性表示字段类型，目前支持 LongField ， TextField 以及 StringField 。</p>    <h3>4.5.Lucene分析器</h3>    <p>LuceneAppender 的实现细节虽然本文不会详细讨论，但是要重点说下分析器的问题。</p>    <h2>4.5.1.需求</h2>    <p>日志记录的场景整体上还是比较明确的，有哪些信息会被记录到日志中相对比较容易被预见到，根据前述的配置方案， Lucene 中具体的索引项，是通过 IndexField 标签进行配置的，这些项目整体上可分为两类，一类是有具体含义的字段，比如时间，一类是内容不确定的字段，比如日志的内容，对于有具体含义的字段，应该不分词，查询时精确匹配，而对于像内容这样的内容不明确字段，也应该是不分词，但是查询时采用模糊匹配，这样的设计针对日志查询这个场景来说，还是比较合理的。</p>    <h2>4.5.2.常见分析器对比</h2>    <p>Lucene 内置了很多的分析器，常见的比如： WhitespaceAnalyzer 、 SimpleAnalyzer 、 StopAnalyzer 、 StandardAnalyzer 、 CJKAnalyzer 、 KeywordAnalyzer 等，它们各自特点如下：</p>    <table>     <tbody>      <tr>       <td> <p>分析器</p> </td>       <td> <p>空格拆分</p> </td>       <td> <p>符号拆分</p> </td>       <td> <p>数字拆分</p> </td>       <td> <p>无用词拆分</p> </td>       <td> <p>文字转小写</p> </td>       <td> <p>标记文本类型</p> </td>       <td> <p>中日韩文字处理</p> </td>      </tr>      <tr>       <td> <p>WhitespaceAnalyzer</p> </td>       <td> <p>是</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>无</p> </td>      </tr>      <tr>       <td> <p>SimpleAnalyzer</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>否</p> </td>       <td> <p>是</p> </td>       <td> <p>否</p> </td>       <td> <p>无</p> </td>      </tr>      <tr>       <td> <p>StopAnalyzer</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>否</p> </td>       <td> <p>无</p> </td>      </tr>      <tr>       <td> <p>StandardAnalyzer</p> </td>       <td> <p>是</p> </td>       <td> <p>部分</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>逐个拆分</p> </td>      </tr>      <tr>       <td> <p>CJKAnalyzer</p> </td>       <td> <p>是</p> </td>       <td> <p>部分</p> </td>       <td> <p>否</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>是</p> </td>       <td> <p>双字拆分</p> </td>      </tr>      <tr>       <td> <p>KeywordAnalyzer</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>否</p> </td>       <td> <p>无</p> </td>      </tr>     </tbody>    </table>    <h2>4.5.3.结论</h2>    <p>根据上述的需求分析，以及对现有的常见分析器对比， KeywordAnalyzer 分词器是比较合适的，但是，它有两个约束，一个是区分大小写，如果希望不区分大小写，则需要进行相应的扩展开发，一个是关键字不能多于256个字符，这个约束应该问题不大。</p>    <h2>5.优缺点</h2>    <h3>5.1.优点</h3>    <ul>     <li><strong>资源占用少</strong> ：日志的记录过程，和常规日志的记录没多大区别，没有额外的CPU和内存占用，唯一有较大消耗的，是 Lucene 的索引文件需要占用磁盘空间，如果对占用磁盘空间敏感，或者对日志的长期保存没有严格要求，本方案中可以设定索引过期时间，超期的索引会被删除。整个方案是可以不需要额外的服务器软硬件资源进行部署的；</li>     <li><strong>部署简单</strong> ：本方案只需要开发一个单独的代理模块和应用部署在一起即可，另外就是查询界面，可以根据需要集成在相应的系统中即可，比如监控系统等；</li>     <li><strong>灵活性强</strong> ：可以根据需要，在日志配置文件中进行灵活的配置，可以配置记录哪些项目，什么格式等，查询界面也可以灵活地定制，根据需要以适应具体的业务场景；</li>     <li><strong>开发学习简单</strong> ：本方案中需要学习的技术不多，只需要熟悉 Ignite 和 Lucene 的开发即可，查询界面可以根据需要而定，没有严格要求。</li>    </ul>    <h3>5.2.缺点</h3>    <ul>     <li><strong>需要一定的开发量</strong> ：这不是一套开箱即用的解决方案，包括查询界面等，是需要开发的，但是工作量不大，如果还有其他的需求，比如日志分析等，只能自行开发；</li>     <li><strong>依赖Ignite的集群部署</strong> ：这套方案查询的范围是Ignite构建的集群或者在这个集群范围内定义的集群组。因此一方面应用要通过Ignite构建集群，另外一方面如果集群内应用较多，为了避免相互干扰，对集群分组也是必要的，这方面可以算做一个强约束。</li>    </ul>    <h2>6.其他的相关方案</h2>    <p>仅就开源社区而言，还存在 Elastic Stack 、 Flume 等日志处理技术，功能各有侧重，但如果仅仅想做分布式日志的查询的话，这些方案略重，如果这些方案不满足需求需要开发，则工作量略大，以 Elastic Stack 为例，整个技术栈使用的技术较多，对开发者要求较高，整体定制成本较高。另外这些方案都需要额外，甚至较多的服务器软硬件资源，部署成本较高。</p>    <h2>7.适用领域</h2>    <p>这套方案整体上来说适用于，或者说面向的是以集群方式部署的企业级交付型软件，厂商可以不受约束的掌控整个方案的方方面面，对客户来说，部署成本也较低。这套方案对于软件的规模没什么限制，整个集群有很多个应用也可以。这类应用对日志处理的需求，功能边界定义可以做到比较清晰，需求不会扩的很大，这样的话，定制ELK解决方案的代价就显得太大了。</p>    <p>而对于互联网公司来说，内部有好多错综复杂的系统，数量可能几十上百，更多的都有，这时在ELK整个技术栈的基础上进行定制，可能更划算，引入这套方案甚至可能都不可行。</p>    <h2>8.总结</h2>    <p>本方案另辟蹊径，通过新的技术栈，较少的代码解决了长期困扰分布式日志查询这个行业痛点，另外，本方案也开阔了思路，即 Ignite 这种嵌入式的分布式计算技术， MapReduce 计算方式，有非常多的使用场景，不仅仅可以用于常规的计算，还可以用于各种集群环境的数据收集等场景，想象空间很大。</p>    <p>本方案中 Lucene 作为全文检索领域的行业标准，得到了广泛的应用，大量的解决方案都基于 Lucene 进行定制开发， Elastic Stack 底层也构建于 Lucene 之上。</p>    <p>如果本方案能称为最佳实践，那么 Ignite 功不可没。这一类的技术还有其他技术可选，比如 Infinispan 等，只是这一类的开源嵌入式内存并行计算技术，还没有得到业界的关注而已。</p>    <p> </p>    <p>来自：http://www.infoq.com/cn/articles/ignite-lucene-log4j2-log-query</p>    <p> </p>