并查集(Union-Find)算法介绍

   <p>本文主要介绍解决 动态连通性 一类问题的一种算法，使用到了一种叫做并查集的数据结构，称为 Union-Find 。</p>    <p>更多的信息可以参考 Algorithms  一书的 Section 1.5 ，实际上本文也就是基于它的一篇读后感吧。 原文中更多的是给出一些结论，我尝试给出一些思路上的过程，即为什么要使用这个方法，而不是别的什么方法。我觉得这个可能更加有意义一些，相比于记下一些结论。</p>    <h2><strong>关于动态连通性</strong></h2>    <p>我们看一张图来了解一下什么是动态连通性：</p>    <p style="text-align:center"><img src="https://simg.open-open.com/show/be74bce7d81e9a901aab967718e958a0.png"></p>    <p>假设我们输入了一组整数对，即上图中的 (4, 3) (3, 8) 等等，每对整数代表这两个 points/sites 是连通的。那么随着数据的不断输入，整个图的连通性也会发生变化，从上图中可以很清晰的发现这一点。同时，对于已经处于连通状态的 points/sites ，直接忽略，比如上图中的 (8, 9) 。</p>    <h2><strong>动态连通性的应用场景：</strong></h2>    <ul>     <li>网络连接判断：</li>    </ul>    <p>如果每个 pair 中的两个整数分别代表一个网络节点，那么该 pair 就是用来表示这两个节点是需要连通的。那么为所有的 pairs 建立了动态连通图后，就能够尽可能少的减少布线的需要，因为已经连通的两个节点会被直接忽略掉。</p>    <ul>     <li>变量名等同性 ( 类似于指针的概念 ) ：</li>    </ul>    <p>在程序中，可以声明多个引用来指向同一对象，这个时候就可以通过为程序中声明的引用和实际对象建立动态连通图来判断哪些引用实际上是指向同一对象。</p>    <h2><strong>对问题建模：</strong></h2>    <p>在对问题进行建模的时候，我们应该尽量想清楚需要解决的问题是什么。因为模型中选择的数据结构和算法显然会根据问题的不同而不同，就动态连通性这个场景而言，我们需要解决的问题可能是：</p>    <ul>     <li>给出两个节点，判断它们是否连通，如果连通，不需要给出具体的路径</li>     <li>给出两个节点，判断它们是否连通，如果连通，需要给出具体的路径</li>    </ul>    <p>就上面两种问题而言，虽然只有是否能够给出具体路径的区别，但是这个区别导致了选择算法的不同，本文主要介绍的是第一种情况，即不需要给出具体路径的 Union-Find 算法，而第二种情况可以使用基于 DFS 的算法。</p>    <h2><strong>建模思路：</strong></h2>    <p>最简单而直观的假设是，对于连通的所有节点，我们可以认为它们属于一个组，因此不连通的节点必然就属于不同的组。随着 Pair 的输入，我们需要首先判断输入的两个节点是否连通。如何判断呢？按照上面的假设，我们可以通过判断它们属于的组，然后看看这两个组是否相同，如果相同，那么这两个节点连通，反之不连通。为简单起见，我们将所有的节点以整数表示，即对 N 个节点使用 0 到 N-1 的整数表示。而在处理输入的 Pair 之前，每个节点必然都是孤立的，即他们分属于不同的组，可以使用数组来表示这一层关系，数组的 index 是节点的整数表示，而相应的值就是该节点的组号了。该数组可以初始化为：</p>    <pre>  <code class="language-java">for(int i = 0; i < size; i++)        id[i] = i;  </code></pre>    <p>即对于节点 i ，它的组号也是 i 。</p>    <h2><strong>初始化完毕之后，对该动态连通图有几种可能的操作：</strong></h2>    <ul>     <li>查询节点属于的组</li>    </ul>    <p>数组对应位置的值即为组号</p>    <ul>     <li>判断两个节点是否属于同一个组</li>    </ul>    <p>分别得到两个节点的组号，然后判断组号是否相等</p>    <ul>     <li>连接两个节点，使之属于同一个组</li>    </ul>    <p>分别得到两个节点的组号，组号相同时操作结束，不同时，将其中的一个节点的组号换成另一个节点的组号</p>    <ul>     <li>获取组的数目</li>    </ul>    <p>初始化为节点的数目，然后每次成功连接两个节点之后，递减 1</p>    <h2><strong> API</strong></h2>    <p>我们可以设计相应的 API ：</p>    <p style="text-align: center;"><img src="https://simg.open-open.com/show/36110e1be8cb456f8b7fe93229f46eb9.png"></p>    <p>注意其中使用整数来表示节点，如果需要使用其他的数据类型表示节点，比如使用字符串，那么可以用哈希表来进行映射，即将 String 映射成这里需要的 Integer 类型。</p>    <p>分析以上的 API ，方法 connected 和 union 都依赖于 find ， connected 对两个参数调用两次 find 方法，而 union 在真正执行 union 之前也需要判断是否连通，这又是两次调用 find 方法。因此我们需要把 find 方法的实现设计的尽可能的高效。所以就有了下面的 Quick-Find 实现。</p>    <p><strong>Quick-Find </strong> <strong>算法：</strong></p>    <pre>  <code class="language-java">public class UF    {        private int[] id; // access to component id (site indexed)        private int count; // number of components        public UF(int N)        {            // Initialize component id array.            count = N;            id = new int[N];            for (int i = 0; i < N; i++)                id[i] = i;        }        public int count()        { return count; }        public boolean connected(int p, int q)        { return find(p) == find(q); }        public int find(int p)        { return id[p]; }        public void union(int p, int q)        {            // 获得p和q的组号            int pID = find(p);            int qID = find(q);            // 如果两个组号相等，直接返回            if (pID == qID) return;            // 遍历一次，改变组号使他们属于一个组            for (int i = 0; i < id.length; i++)                if (id[i] == pID) id[i] = qID;            count--;        }    }  </code></pre>    <p>举个例子，比如输入的 Pair 是 (5 ，  9) ，那么首先通过 find 方法发现它们的组号并不相同，然后在 union 的时候通过一次遍历，将组号 1 都改成 8 。当然，由 8 改成 1 也是可以的，保证操作时都使用一种规则就行。</p>    <p style="text-align:center"><img src="https://simg.open-open.com/show/0e105f50dad0600a735a043318cc1702.png"></p>    <p>上述代码的 find 方法十分高效，因为仅仅需要一次数组读取操作就能够找到该节点的组号，但是问题随之而来，对于需要添加新路径的情况，就涉及到对于组号的修改，因为并不能确定哪些节点的组号需要被修改，因此就必须对整个数组进行遍历，找到需要修改的节点，逐一修改，这一下每次添加新路径带来的复杂度就是线性关系了，如果要添加的新路径的数量是 M ，节点数量是 N ，那么最后的时间复杂度就是 MN ，显然是一个平方阶的复杂度，对于大规模的数据而言，平方阶的算法是存在问题的，这种情况下，每次添加新路径就是“牵一发而动全身”，想要解决这个问题，关键就是要提高 union 方法的效率，让它不再需要遍历整个数组。</p>    <h2><strong>Quick-Union </strong> <strong>算法：</strong></h2>    <p>考虑一下，为什么以上的解法会造成“牵一发而动全身”？因为每个节点所属的组号都是单独记录，各自为政的，没有将它们以更好的方式组织起来，当涉及到修改的时候，除了逐一通知、修改，别无他法。所以现在的问题就变成了，如何将节点以更好的方式组织起来，组织的方式有很多种，但是最直观的还是将组号相同的节点组织在一起，想想所学的数据结构，什么样子的数据结构能够将一些节点给组织起来？常见的就是链表，图，树，什么的了。但是哪种结构对于查找和修改的效率最高？毫无疑问是树，因此考虑如何将节点和组的关系以树的形式表现出来。</p>    <p>如果不改变底层数据结构，即不改变使用数组的表示方法的话。可以采用 parent-link 的方式将节点组织起来，举例而言， id[p] 的值就是 p 节点的父节点的序号，如果 p 是树根的话， id[p] 的值就是 p ，因此最后经过若干次查找，一个节点总是能够找到它的根节点，即满足 id[root] = root 的节点也就是组的根节点了，然后就可以使用根节点的序号来表示组号。所以在处理一个 pair 的时候，将首先找到 pair 中每一个节点的组号 ( 即它们所在树的根节点的序号 ) ，如果属于不同的组的话，就将其中一个根节点的父节点设置为另外一个根节点，相当于将一颗独立的树编程另一颗独立的树的子树。直观的过程如下图所示。但是这个时候又引入了问题。</p>    <p style="text-align:center"><img src="https://simg.open-open.com/show/1b3659c7a4c567c52e807f2747f192c4.png"></p>    <p>在实现上，和之前的 Quick-Find 只有 find 和 union 两个方法有所不同：</p>    <pre>  <code class="language-java">private int find(int p)    {        // 寻找p节点所在组的根节点，根节点具有性质id[root] = root        while (p != id[p]) p = id[p];        return p;    }    public void union(int p, int q)    {        // Give p and q the same root.        int pRoot = find(p);        int qRoot = find(q);        if (pRoot == qRoot)            return;        id[pRoot] = qRoot;    // 将一颗树(即一个组)变成另外一课树(即一个组)的子树        count--;    }  </code></pre>    <p>树这种数据结构容易出现极端情况，因为在建树的过程中，树的最终形态严重依赖于输入数据本身的性质，比如数据是否排序，是否随机分布等等。比如在输入数据是有序的情况下，构造的 BST 会退化成一个链表。在我们这个问题中，也是会出现的极端情况的，如下图所示。</p>    <p style="text-align:center"><img src="https://simg.open-open.com/show/73f9ce076f6e2c17354e12472e5a709d.png"></p>    <p>为了克服这个问题， BST 可以演变成为红黑树或者 AVL 树等等。</p>    <p>然而，在我们考虑的这个应用场景中，每对节点之间是不具备可比性的。因此需要想其它的办法。在没有什么思路的时候，多看看相应的代码可能会有一些启发，考虑一下 Quick-Union 算法中的 union 方法实现：</p>    <pre>  <code class="language-java">public void union(int p, int q)    {        // Give p and q the same root.        int pRoot = find(p);        int qRoot = find(q);        if (pRoot == qRoot)            return;        id[pRoot] = qRoot;  // 将一颗树(即一个组)变成另外一课树(即一个组)的子树        count--;    }  </code></pre>    <p>上面 id[pRoot] = qRoot 这行代码看上去似乎不太对劲。因为这也属于一种“硬编码”，这样实现是基于一个约定，即 p 所在的树总是会被作为 q 所在树的子树，从而实现两颗独立的树的融合。那么这样的约定是不是总是合理的呢？显然不是，比如 p 所在的树的规模比 q 所在的树的规模大的多时， p 和 q 结合之后形成的树就是十分不和谐的一头轻一头重的”畸形树“了。</p>    <p>所以我们应该考虑树的大小，然后再来决定到底是调用：</p>    <p>id[pRoot] = qRoot  或者是  id[qRoot] = pRoot</p>    <p style="text-align:center"><img src="https://simg.open-open.com/show/658c1afe01c4847fbd764b9084859f5f.png"></p>    <p>即总是 size 小的树作为子树和 size 大的树进行合并。这样就能够尽量的保持整棵树的平衡。</p>    <p>所以现在的问题就变成了：树的大小该如何确定？</p>    <p>我们回到最初的情形，即每个节点最一开始都是属于一个独立的组，通过下面的代码进行初始化：</p>    <pre>  <code class="language-java">for (int i = 0; i < N; i++)        id[i] = i;    // 每个节点的组号就是该节点的序号  </code></pre>    <p>以此类推，在初始情况下，每个组的大小都是 1 ，因为只含有一个节点，所以我们可以使用额外的一个数组来维护每个组的大小，对该数组的初始化也很直观：</p>    <pre>  <code class="language-java">for (int i = 0; i < N; i++)        sz[i] = 1;    // 初始情况下，每个组的大小都是1  </code></pre>    <p>而在进行合并的时候，会首先判断待合并的两棵树的大小，然后按照上面图中的思想进行合并，实现代码：</p>    <pre>  <code class="language-java">public void union(int p, int q)    {        int i = find(p);        int j = find(q);        if (i == j) return;        // 将小树作为大树的子树        if (sz[i] < sz[j]) { id[i] = j; sz[j] += sz[i]; }        else { id[j] = i; sz[i] += sz[j]; }        count--;    }  </code></pre>    <h2><strong>Quick-Union  和  Weighted Quick-Union  的比较：</strong></h2>    <p><img src="https://simg.open-open.com/show/6dcb2433f67d42a6354d47340fbf4615.png"></p>    <p>可以发现，通过 sz 数组决定如何对两棵树进行合并之后，最后得到的树的高度大幅度减小了。这是十分有意义的，因为在 Quick-Union 算法中的任何操作，都不可避免的需要调用 find 方法，而该方法的执行效率依赖于树的高度。树的高度减小了， find 方法的效率就增加了，从而也就增加了整个 Quick-Union 算法的效率。</p>    <p>上图其实还可以给我们一些启示，即对于 Quick-Union 算法而言，节点组织的理想情况应该是一颗十分扁平的树，所有的孩子节点应该都在 height 为 1 的地方，即所有的孩子都直接连接到根节点。这样的组织结构能够保证 find 操作的最高效率。</p>    <p>那么如何构造这种理想结构呢？</p>    <p>在 find 方法的执行过程中，不是需要进行一个 while 循环找到根节点嘛？如果保存所有路过的中间节点到一个数组中，然后在 while 循环结束之后，将这些中间节点的父节点指向根节点，不就行了么？但是这个方法也有问题，因为 find 操作的频繁性，会造成频繁生成中间节点数组，相应的分配销毁的时间自然就上升了。那么有没有更好的方法呢？还是有的，即将节点的父节点指向该节点的爷爷节点，这一点很巧妙，十分方便且有效，相当于在寻找根节点的同时，对路径进行了压缩，使整个树结构扁平化。相应的实现如下，实际上只需要添加一行代码：</p>    <pre>  <code class="language-java">private int find(int p)    {        while (p != id[p])        {            // 将p节点的父节点设置为它的爷爷节点            id[p] = id[id[p]];            p = id[p];        }        return p;    }  </code></pre>    <p>至此，动态连通性相关的 Union-Find 算法基本上就介绍完了，从容易想到的 Quick-Find 到相对复杂但是更加高效的 Quick-Union ，然后到对 Quick-Union 的几项改进，让我们的算法的效率不断的提高。</p>    <p>这几种算法的时间复杂度如下所示：</p>    <table cellspacing="0">     <tbody>      <tr>       <td>Algorithm</td>       <td>Constructor</td>       <td>Union</td>       <td>Find</td>      </tr>      <tr>       <td>Quick-Find</td>       <td>N</td>       <td>N</td>       <td>1</td>      </tr>      <tr>       <td>Quick-Union</td>       <td>N</td>       <td>Tree height</td>       <td>Tree height</td>      </tr>      <tr>       <td>Weighted Quick-Union</td>       <td>N</td>       <td>lgN</td>       <td>lgN</td>      </tr>      <tr>       <td>Weighted Quick-Union With Path Compression</td>       <td>N</td>       <td>Very near to 1 (amortized)</td>       <td>Very near to 1 (amortized)</td>      </tr>     </tbody>    </table>    <p>对大规模数据进行处理，使用平方阶的算法是不合适的，比如简单直观的 Quick-Find 算法，通过发现问题的更多特点，找到合适的数据结构，然后有针对性的进行改进，得到了 Quick-Union 算法及其多种改进算法，最终使得算法的复杂度降低到了近乎线性复杂度。</p>    <p>如果需要的功能不仅仅是检测两个节点是否连通，还需要在连通时得到具体的路径，那么就需要用到别的算法了，比如DFS或者BFS。</p>    <p>并查集的应用，可以参考另外一篇文章并查集应用举例</p>    <p> </p>    <p>来自：http://blog.jobbole.com/108359/</p>    <p> </p>