ubuntu系统下redis集群搭建(主从+哨兵)

Redis安装部署

  1. Redis官网下载地址:https://redis.io/download/;

在这里插入图片描述

  1. 解压安装包;

    tar xzf redis-7.0.5.tar.gz
    
  2. 进入解压文件目录使用make命令对解压的 redis 文件进行编译,如下;

    cd redis-7.0.5/
    make
    
  3. 编译完成之后,可以看到解压文件 redis-5.0.7 中会有对应的 src、conf 等文件,如下;

在这里插入图片描述

  1. 编译成功后进入安装的redis的src/文件夹,执行make install进行编译;

    cd src/
    make install
    
  2. 编译完成后,效果如下;

    在这里插入图片描述

    1. 如出现以下编译错误信息,是因为没有安装gcc环境,执行apt-get install gcc即可;

在这里插入图片描述

  1. 如出现以下编译错误信息,执行 make MALLOC=libc即可;

在这里插入图片描述

  1. 部署Redis;

    • 由于 src 下文件非常多,我们可以将几个常用的命令和 conf 配置文件复制出来进行统一管理,如下:

      1. 在/user/local/文件夹下新建bin和etc文件夹;

        在这里插入图片描述

      2. 回到安装目录,将redis.conf复制到 ect 文件夹下;

        在这里插入图片描述

      3. 进入 src 文件夹下,将mkreleasehdr.shredis-benchmarkredis-check-aofredis-check-rdbredis-cliredis-serverredis-sentinel文件复制到 bin 文件夹;

        root@masterr-ubuntu:/usr/local/redis/redis-7.0.5/src# cp mkreleasehdr.sh redis-benchmark redis-check-aof redis-check-rdb redis-server redis-sentinel /usr/local/redis/redis-7.0.5/bin/
        
      4. 查看复制后的文件,如下;

        1. 在这里插入图片描述

在这里插入图片描述

  1. 启动redis服务
    1. root@masterr-ubuntu:/usr/local/redis/redis-7.0.5/bin# cd /usr/local/redis/redis-7.0.5/bin
      root@masterr-ubuntu:/usr/local/redis/redis-7.0.5/bin# ./redis-server /usr/local/redis/redis-7.0.5/etc/redis.conf 
      

      在这里插入图片描述

    2. 启动后新建一个ssh连接查看redis的进程,如下,可以看到6379端口就是我们运行的 redis 服务(配置文件中默认端口为6379)。

      在这里插入图片描述

    3. 在新建的ssh连接中使用redis-cli命令连接Redis客户端,如下;

      在这里插入图片描述

  2. 关闭redis服务
    redis-cli -p 6379 shutdown
    

Redis 主从配置及数据同步

  • 在第一步 Redis 安装部署中我们已经启动了 Redis 服务,但是配置文件并没有做修改,因为主从配置主要就是通过修改配置文件来实现,所以 Redis 配置文件的修改统一在这里进行讲解。

  • 这里我创建了三台虚拟机来演示,分别按照上述安装方式安装好 Redis,三台虚拟机如下配置:

    ip地址端口号角色
    192.168.98.156379主机(master)
    192.168.98.176379从机(slave)
    192.168.98.186379从机(slave)
  1. 首先先来了解以下redis.conf中相关配置的作用;

    # redis进程是否以守护进程的方式运行,yes为是,no为否(不以守护进程的方式运行会占用一个终端)。
    daemonize no
    # 指定redis进程的PID文件存放位置
    pidfile /var/run/redis.pid
    # redis进程的端口号
    port 6379
    #是否开启保护模式,默认开启。要是配置里没有指定bind和密码。开启该参数后,redis只会本地进行访问,拒绝外部访问。要是开启了密码和bind,可以开启。否则最好关闭设置为no。
    protected-mode yes
    # 绑定的主机地址
    bind 127.0.0.1
    # 客户端闲置多长时间后关闭连接,默认此参数为0即关闭此功能
    timeout 300
    # redis日志级别,可用的级别有debug.verbose.notice.warning
    loglevel verbose
    # log文件输出位置,如果进程以守护进程的方式运行,此处又将输出文件设置为stdout的话,就会将日志信息输出到/dev/null里面去了
    logfile stdout
    # 设置数据库的数量,默认为0可以使用select <dbid>命令在连接上指定数据库id
    databases 16
    # 指定在多少时间内刷新次数达到多少的时候会将数据同步到数据文件
    save <seconds> <changes>
    # 指定存储至本地数据库时是否压缩文件,默认为yes即启用存储
    rdbcompression yes
    # 指定本地数据库文件名
    dbfilename dump.db
    # 指定本地数据问就按存放位置
    dir ./
    # 指定当本机为slave服务时,设置master服务的IP地址及端口,在redis启动的时候他会自动跟master进行数据同步
    replicaof <masterip> <masterport>
    # 当master设置了密码保护时,slave服务连接master的密码
    masterauth <master-password>
    # 设置redis连接密码,如果配置了连接密码,客户端在连接redis是需要通过AUTH<password>命令提供密码,默认关闭
    requirepass footbared
    # 设置同一时间最大客户连接数,默认无限制。redis可以同时连接的客户端数为redis程序可以打开的最大文件描述符,如果设置 maxclients 0,表示不作限制。当客户端连接数到达限制时,Redis会关闭新的连接并向客户端返回 max number of clients reached 错误信息
    maxclients 128
    # 指定Redis最大内存限制,Redis在启动时会把数据加载到内存中,达到最大内存后,Redis会先尝试清除已到期或即将到期的Key。当此方法处理后,仍然到达最大内存设置,将无法再进行写入操作,但仍然可以进行读取操作。Redis新的vm机制,会把Key存放内存,Value会存放在swap区
    maxmemory<bytes>
    # 指定是否在每次更新操作后进行日志记录,Redis在默认情况下是异步的把数据写入磁盘,如果不开启,可能会在断电时导致一段时间内的数据丢失。因为redis本身同步数据文件是按上面save条件来同步的,所以有的数据会在一段时间内只存在于内存中。默认为no。
    appendonly no
    # 指定跟新日志文件名默认为appendonly.aof
    appendfilename appendonly.aof
    # 指定更新日志的条件,有三个可选参数 - no:表示等操作系统进行数据缓存同步到磁盘(快),always:表示每次更新操作后手动调用fsync()将数据写到磁盘(慢,安全), everysec:表示每秒同步一次(折衷,默认值);
    appendfsync everysec
    
  2. 主机配置,修改/usr/local/redis/redis-7.0.5/etc/redis.conf配置文件,修改参数如下所示

    #Redis 默认只允许本机访问,把 bind 修改为 0.0.0.0 表示允许所有远程访问。如果想指定限制访问,可设置对应的 ip。
    bind 0.0.0.0
    #Redis 端口配置
    port 6379
    #关闭保护模式,可以外部访问。
    protected-mode no
    #设置为后台启动。
    daemonize yes
    #Redis 日志文件,生成后在 bin 目录下可找到。
    logfile ./redis.log
    #设置 redis 连接密码。
    requirepass root
    #slave 服务连接 master 的密码。
    masterauth root
    
  3. 从机配置,修改/usr/local/redis/redis-7.0.5/etc/redis.conf配置文件,修改参数如下所示

    #Redis 默认只允许本机访问,把 bind 修改为 0.0.0.0 表示允许所有远程访问。如果想指定限制访问,可设置对应的 ip。
    bind 0.0.0.0
    #Redis 端口配置
    port 6379
    #关闭保护模式,可以外部访问。
    protected-mode no
    #设置为后台启动。
    daemonize yes
    #Redis 日志文件,生成后在 bin 目录下可找到。
    logfile ./redis.log
    #设置 redis 连接密码。
    requirepass root
    #slave 服务连接 master 的密码。
    masterauth root
    #指定当本机为 slave 服务时,设置 master 服务的IP地址及端口,在 redis 启动的时候会自动跟 master 进行数据同步,所以两台从机都这样配置即可。
    replicaof 192.168.98.15 6379
    
  4. 配置完成之后重启redis服务;

     #停止Redis
    root@masterr-ubuntu:redis-cli -p 6379 shutdown
     #进入bin目录
    root@masterr-ubuntu:/usr/local/redis/redis-7.0.5/bin# cd /usr/local/redis/redis-7.0.5/bin
     #启动Redis
    root@masterr-ubuntu:/usr/local/redis/redis-7.0.5/bin# ./redis-server /usr/local/redis/redis-7.0.5/etc/redis.conf
    
  5. 此处注意:由于我们搭建的集群需要自动容灾切换,主数据库可能会变成从数据库,所以三台机器上都需要同时设置 requirepass 和 masterauth 配置项。

  6. 下面我们需要设置一下防火墙,否则主从机之间无法同步数据,命令如下,这里根据自己设置的端口进行更改。或者直接关闭防火墙。

    firewall-cmd --add-port=6379/tcp --permanent --zone=public
    #重启防火墙(修改配置后要重启防火墙)
    firewall-cmd --reload
    
  7. 查看Redis主从节点是否配置成功;

    • 主节点(master)

    在这里插入图片描述

    • 从节点(slave)

    在这里插入图片描述

  8. 主从数据同步验证;

    1. 在主机(master)添加几条数据,看从机(slave)是否可以获取到,如果能获取,说明数据已经同步到了从机,主机添加数据,如下:

      在这里插入图片描述

    2. 两台从机已经获取到数据,证明主从搭建成功并可同步数据,如下所示:
      在这里插入图片描述
      在这里插入图片描述

Redis 哨兵模式搭建

  1. 哨兵模式详解

    Redis Sentinel是Redis 的高可用性解决方案,由一个或多个Sentinel(哨兵)实例组成。它可以监视任意多个主服务器,以及这些主服务器属下的所有从服务器,并在被监视的主服务器进入下线状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器,它的主要功能如下:

    • 监控(Monitoring):Sentinel会不断地检查你的主服务器和从服务器是否运作正常。

    • 通知(Notification):当被监控的某个 Redis 服务器出现问题时, Sentinel可以通过API向管理员或者其他应用程序发送通知。

    • 故障迁移:当主服务器不能正常工作时,Sentinel会自动进行故障迁移,也就是主从切换。

    • 统一的配置管理:连接者询问sentinel取得主从的地址。

  2. 哨兵原理

    Sentinel 使用的算法核心是 Raft 算法,主要用途就是用于分布式系统,系统容错,以及Leader选举,每个Sentinel都需要定期的执行以下任务:

    • 每个 Sentinel 会自动发现其他 Sentinel 和从服务器,它以每秒钟一次的频率向它所知的主服务器、从服务器以及其他 Sentinel 实例发送一个 PING 命令。
    • 如果一个实例(instance)距离最后一次有效回复 PING 命令的时间超过 down-after-milliseconds 选项所指定的值, 那么这个实例会被 Sentinel 标记为主观下线。 有效回复可以是: +PONG 、 -LOADING 或者 -MASTERDOWN 。
    • 如果一个主服务器被标记为主观下线, 那么正在监视这个主服务器的所有Sentinel要以每秒一次的频率确认主服务器的确进入了主观下线状态。
    • 如果一个主服务器被标记为主观下线, 并且有足够数量的Sentinel(至少要达到配置文件指定的数量)在指定的时间范围内同意这一判断, 那么这个主服务器被标记为客观下线。
    • 在一般情况下, 每个Sentinel会以每 10 秒一次的频率向它已知的所有主服务器和从服务器发送 INFO 命令。 当一个主服务器被Sentinel标记为客观下线时,Sentinel向下线主服务器的所有从服务器发送 INFO 命令的频率会从 10 秒一次改为每秒一次。
    • 当没有足够数量的Sentinel同意主服务器已经下线, 主服务器的客观下线状态就会被移除。 当主服务器重新向Sentinel的 PING 命令返回有效回复时, 主服务器的主管下线状态就会被移除。

    哨兵原理.png

  3. 配置文件详解其作用
    # 哨兵sentinel实例运行的端口,默认26379  
    port 26379
    # 哨兵sentinel的工作目录
    dir ./
    # 是否开启保护模式,默认开启。
    protected-mode:no
    # 是否设置为后台启动。
    daemonize:yes
    
    # 哨兵sentinel的日志文件
    logfile:./sentinel.log
    
    # 哨兵sentinel监控的redis主节点的 
    ## ip:主机ip地址
    ## port:哨兵端口号
    ## master-name:可以自己命名的主节点名字(只能由字母A-z、数字0-9 、这三个字符".-_"组成。)
    ## quorum:当这些quorum个数sentinel哨兵认为master主节点失联 那么这时 客观上认为主节点失联了  
    # sentinel monitor <master-name> <ip> <redis-port> <quorum>  
    sentinel monitor mymaster 127.0.0.1 6379 2
    
    # 当在Redis实例中开启了requirepass,所有连接Redis实例的客户端都要提供密码。
    # sentinel auth-pass <master-name> <password>  
    sentinel auth-pass mymaster 123456  
    
    # 指定主节点应答哨兵sentinel的最大时间间隔,超过这个时间,哨兵主观上认为主节点下线,默认30秒  
    # sentinel down-after-milliseconds <master-name> <milliseconds>
    sentinel down-after-milliseconds mymaster 30000  
    
    # 指定了在发生failover主备切换时,最多可以有多少个slave同时对新的master进行同步。这个数字越小,完成failover所需的时间就越长;反之,但是如果这个数字越大,就意味着越多的slave因为replication而不可用。可以通过将这个值设为1,来保证每次只有一个slave,处于不能处理命令请求的状态。
    # sentinel parallel-syncs <master-name> <numslaves>
    sentinel parallel-syncs mymaster 1  
    
    # 故障转移的超时时间failover-timeout,默认三分钟,可以用在以下这些方面:
    ## 1. 同一个sentinel对同一个master两次failover之间的间隔时间。  
    ## 2. 当一个slave从一个错误的master那里同步数据时开始,直到slave被纠正为从正确的master那里同步数据时结束。  
    ## 3. 当想要取消一个正在进行的failover时所需要的时间。
    ## 4.当进行failover时,配置所有slaves指向新的master所需的最大时间。不过,即使过了这个超时,slaves依然会被正确配置为指向master,但是就不按parallel-syncs所配置的规则来同步数据了
    # sentinel failover-timeout <master-name> <milliseconds>  
    sentinel failover-timeout mymaster 180000
    
    # 当sentinel有任何警告级别的事件发生时(比如说redis实例的主观失效和客观失效等等),将会去调用这个脚本。一个脚本的最大执行时间为60s,如果超过这个时间,脚本将会被一个SIGKILL信号终止,之后重新执行。
    # 对于脚本的运行结果有以下规则:  
    ## 1. 若脚本执行后返回1,那么该脚本稍后将会被再次执行,重复次数目前默认为10。
    ## 2. 若脚本执行后返回2,或者比2更高的一个返回值,脚本将不会重复执行。  
    ## 3. 如果脚本在执行过程中由于收到系统中断信号被终止了,则同返回值为1时的行为相同。
    # sentinel notification-script <master-name> <script-path>  
    sentinel notification-script mymaster /var/redis/notify.sh
    
    # 这个脚本应该是通用的,能被多次调用,不是针对性的。
    # sentinel client-reconfig-script <master-name> <script-path>
    sentinel client-reconfig-script mymaster /var/redis/reconfig.sh
    
  4. 哨兵搭建

    1. 这里我们部署三个哨兵,每台服务器一个哨兵,配置方式相同,如下

      1. 同样为了方便管理,首先将sentinel.conf复制到 etc 下;

        cd /usr/local/redis/redis-7.0.5/
        cp sentinel.conf /data/redis-7.0.5/etc/
        
      2. 编辑sentinel.conf配置文件;

        cd /usr/local/redis/redis-7.0.5/etc
        vi sentinel.conf
        

        修改内容如下所示:

        //端口默认为26379。
        port 26379
        //关闭保护模式,可以外部访问。
        protected-mode no
        //设置为后台启动。
        daemonize yes
        //日志文件。
        logfile ./sentinel.log
        //指定主机IP地址和端口,并且指定当有2台哨兵认为主机挂了,则对主机进行容灾切换。
        sentinel monitor mymaster 192.168.231.130 6379 2
        //当在Redis实例中开启了requirepass,这里就需要提供密码。
        sentinel auth-pass mymaster root
        //这里设置了主机多少秒无响应,则认为挂了。
        sentinel down-after-milliseconds mymaster 3000
        //主备切换时,最多有多少个slave同时对新的master进行同步,这里设置为默认的1。
        sentinel parallel-syncs mymaster 1
        //故障转移的超时时间,这里设置为三分钟。
        sentinel failover-timeout mymaster 180000
        
    2. 启动三个哨兵;

      cd /usl/local/redis/redis-7.0.5/bin
      redis-sentinel /usl/local/redis/redis-7.0.5/etc/sentinel.conf
      
    3. 三个哨兵都启动后,可使用如下命令查看哨兵信息

      redis-cli -p 26379
      info sentinel
      

      可以看到,哨兵已经监听到当前的主机IP端口和运行状态,并且有2台从机,3个哨兵,信息如下所示;

      在这里插入图片描述

  5. 容灾测试

    1. 模拟主机宕机情况,将主机Redis服务关闭,如下

      redis-cli -p 6379 shutdown
      
    2. 现在我们去看三台服务器的情况,发现刚才的主机(192.168.98.15 6379)已经变成了从机,如下

      在这里插入图片描述

    3. 哨兵(Sentinel)通过选举机制选举了从机(192.168.98.17 6379)作为了新的主机,如下

      在这里插入图片描述

    4. 需要注意的是,主从切换后配置文件已经被自动进行了更改,我们现在看一下新上位的主机 redis 日志,如下

      在这里插入图片描述

``shell
redis-cli -p 6379 shutdown
```

  1. 现在我们去看三台服务器的情况,发现刚才的主机(192.168.98.15 6379)已经变成了从机,如下

    在这里插入图片描述

  2. 哨兵(Sentinel)通过选举机制选举了从机(192.168.98.17 6379)作为了新的主机,如下

 ![在这里插入图片描述](https://img-blog.csdnimg.cn/8b09e93d4d634fa7a5b48e6f7651c214.png#pic_center)
  1. 需要注意的是,主从切换后配置文件已经被自动进行了更改,我们现在看一下新上位的主机 redis 日志,如下

    在这里插入图片描述

    可以看到,当主机挂了的时候,一直连接主机被拒绝,当哨兵选举它为主机后,它成功执行重写的配置文件,并且连接了其他从机。

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐