RabbitMQ集群和高可用配置的技巧
ck332320ca
8年前
<p>RabbitMQ是一个开源的AMQP实现,服务器端用Erlang语言编写,支持多种客户端,如:Python、Ruby、.NET、Java、JMS、C、PHP、ActionScript、XMPP、STOMP等,支持AJAX。用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。</p> <h3><strong>概述</strong></h3> <p>运行模式大概有3种:</p> <p>单一模式: 非集群模式,单台。</p> <p>普通模式: RabbitMQ默认的集群模式。</p> <p>对于Queue来说,消息实体只存在于其中一个节点,A、B两个节点仅有相同的元数据,即队列结构。当消息进入A节点的Queue中后,consumer从B节点拉取时,RabbitMQ会临时在A、B间进行消息传输,把A中的消息实体取出并经过B发送给consumer。</p> <p>所以consumer应尽量连接每一个节点,从中取消息。即对于同一个逻辑队列,要在多个节点建立物理Queue。否则无论consumer连A或B,出口总在A,会产生瓶颈。</p> <p>该模式存在一个问题就是当A节点故障后,B节点无法取到A节点中还未消费的消息实体。</p> <p>如果做了消息持久化,那么得等A节点恢复,然后才可被消费;如果没有持久化会丢失消息。</p> <p>镜像模式: Queue同时存在多个节点,可通过改模式实现HA高可用</p> <p>该模式解决了上述问题,其实质和普通模式不同之处在于,消息实体会主动在镜像节点间同步,而不是在consumer取数据时临时拉取。</p> <p>该模式带来的副作用也很明显,除了降低系统性能外,如果镜像队列数量过多,加之大量的消息进入,集群内部的网络带宽将会被这种同步通讯大大消耗掉。</p> <p>下面来通过配置RabbitMQ镜像模式来熟悉这3种运行模式</p> <p><strong>1. 环境说明</strong></p> <p>RabbitMQ集群安装在3个节点上:10.0.0.1、10.0.0.2、10.0.0.3</p> <p>HAProxy安装在10.0.0.4上,用于对外提供RabbitMQ均衡</p> <p>3个节点在/etc/hosts文件中分别添加如下内容:</p> <pre> 10.0.0.1 rabbit1 10.0.0.2 rabbit2 10.0.0.3 rabbit3</pre> <p><strong>2. 安装erlang、rabbitmq</strong></p> <pre> cd oneinstack/src wget http://erlang.org/download/otp_src_18.3.tar.gz tar xzf otp_src_18.3.tar.gz cd otp_src_18.3 ./configure --prefix=/usr/local/erlang --enable-shared-zlib --with-ssl --enable-threads --enable-smp-support --enable-kernel-poll --enable-hipe --without-javac make && make install cd .. wget http://www.rabbitmq.com/releases/rabbitmq-server/v3.5.7/rabbitmq-server-generic-unix-3.5.7.tar.gz tar xzf rabbitmq-server-generic-unix-3.5.4.tar.gz mv rabbitmq_server-3.5.4 rabbitmq sed -i 's@^ERL_DIR=.*@ERL_DIR=/usr/local/erlang/bin/@' /usr/local/rabbitmq/sbin/rabbitmq-defaults sed -i 's@^LOG_BASE=.*@LOG_BASE=/usr/local/rabbitmq/var/log/rabbitmq@' /usr/local/rabbitmq/sbin/rabbitmq-defaults #日志目录 mkdir -p /usr/local/rabbitmq/var/{lib,log}/rabbitmq</pre> <p><strong>3. 一般用户(rabbitmq)运行RabbitMQ</strong></p> <pre> useradd rabbitmq wget http://pkgs.fedoraproject.org/cgit/rpms/rabbitmq-server.git/plain/rabbitmq-script-wrapper sed -i 's@cd /var/lib/rabbitmq@cd /usr/local/rabbitmq/var/lib/rabbitmq@g' rabbitmq-script-wrapper #更改rabbitmq数据存储目录 sed -i 's@/usr/lib/rabbitmq/bin/@/usr/local/rabbitmq/sbin/@g' rabbitmq-script-wrapper <u>chmod</u> +x rabbitmq-script-wrapper cp rabbitmq-script-wrapper /usr/sbin/rabbitmqctl cp rabbitmq-script-wrapper /usr/sbin/rabbitmq-server cp rabbitmq-script-wrapper /usr/sbin/rabbitmq-plugins <u>chown</u> -R rabbitmq.rabbitmq /usr/local/rabbitmq/var</pre> <p><strong>4. 日志割接</strong></p> <pre> <u>cat</u> >> /etc/logrotate.d/rabbitmq-server << EOF /usr/local/rabbitmq/var/log/rabbitmq/*.log { weekly missingok rotate 20 compress delaycompress notifempty sharedscripts postrotate /sbin/service rabbitmq-server rotate-logs > /dev/null endscript } EOF</pre> <p><strong>5. 启动脚本</strong></p> <p>参考: <a href="/misc/goto?guid=4959730483254571787" rel="nofollow,noindex">《RabbitMQ启动脚本》</a></p> <p><strong>6. 设置Erlang Cookie</strong></p> <p>Erlang Cookie文件:/home/rabbitmq/.erlang.cookie。这里将rabbit1的该文件复制到rabbit2、rabbit3,并设置400权限</p> <pre> chmod 400 /home/rabbitmq/.erlang.cookie chown rabbitmq.rabbitmq /home/rabbitmq/.erlang.cookie</pre> <p><strong>7. 修改配置文件</strong></p> <p>密码和集群配置:</p> <pre> cat > /usr/local/rabbitmq/etc/rabbitmq/rabbitmq.config << EOF [ {rabbit, [ {cluster_nodes, {['rabbit@rabbit1','rabbit@rabbit2', 'rabbit@rabbit3'], disc}}, {tcp_listeners,[{"0.0.0.0",5672}]}, {default_vhost, <<"/">>}, {default_user, <<"linuxeye">>}, {default_pass, <<"linuxeye@123">>}, {loopback_users, ["linuxeye"]}, {default_permissions, [<<".*">>, <<".*">>, <<".*">>]} ]} ]. EOF</pre> <p>启用rabbitmq_management</p> <pre> cat > /usr/local/rabbitmq/etc/rabbitmq/enabled_plugins << EOF [rabbitmq_management]. EOF</pre> <p><strong>8. 分别启动3个节点rabbitmq</strong></p> <p>使用rabbitmqctl cluster_status命令表示集群搭建成功</p> <pre> [root@rabbit2 ~]# rabbitmqctl cluster_status Cluster status of node rabbit@rabbit2 ... [{nodes,[{disc,[rabbit@rabbit1,rabbit@rabbit2,rabbit@rabbit3]}]}, {running_nodes,[rabbit@rabbit3,rabbit@rabbit1,rabbit@rabbit2]}, {cluster_name,<<"rabbit@rabbit2">>}, {partitions,[]}]</pre> <p><strong>9. 设置镜像队列策略</strong></p> <p>在任意一个节点上执行:</p> <pre> rabbitmqctl set_policy ha-all "^" '{"ha-mode":"all"}'</pre> <p><strong>10. 配置HAProxy</strong></p> <p>配置好HAProxy后,浏览器访问http://10.0.0.4:15672, 看到如下证明rabbitmq镜像模式搭建成功</p> <p style="text-align: center;"><img src="https://simg.open-open.com/show/69f69417fdc84e42bc242101c7b74c84.png"></p> <p> </p> <p>来自:http://www.linuxprobe.com/rabbitmq-configuration.html</p> <p> </p>