• 2.NoSQL之Redis配置与优化


    一、关系型数据库与非关系数据库

    关系型数据库:

    关系型数据库是一个结构化的数据库,创建在关系模型(二维表格模型)基础上,一般面向于记录。
    sQL语句(标准数据查询语言)就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作主流的关系型数据库包括 oracle、MySQ、sQI server、Microsoft Access、DB2、PostgresgI等。
    以上数据库在使用的时候必须先建库建表设计表结构,然后存储数据的时候按表结构去存,如果数据与表结构不匹配就会存储失败。

    非关系型数据库

    NoSQL (NosgI = Not only sQL ),意思是"不仅仅是 sQL",是非关系型数据库的总称。除了主流的关系型数据库外的数据库,都认为是非关系型。
    不需要预先建库建表定义数据存储表结构,每条记录可以有不同的数据类型和字段个数(比如微信群聊里的文字、图片、视频、音乐等)。主流的 NosQT数据库有 Redis、MongBD、Hbase、Memcached、Elasticsearch、TSDB等。

    NoSQL(非关系型数据库)和SQL(关系型数据库)的主要区别有如下区别:

    1、数据存储方式不同

    • 关系模型的数据结构使用简单易懂的二维数据表,因此存储在表的行和列中。他们之间很容易关联协作存储,提取数据很方便。

    关系数据库的存储结构是二维表格,关系型数据库大部分将数据存放到硬盘中,可以将有关系的表放在一个库中

    在每个二维表格中

    每一行称为一条记录,用来描述一个对象的信息

    每一列称为一个字段,用来描述对象的一个属性

    • NoSQL数据库则与其相反,它是大块的组合在一起。通常存储在数据集中,就像文档、键值对或者图结构。

    2、扩展方式不同

    1. 关系型数据库数据存储在关系表中,操作的性能瓶颈可能涉及到多个表,需要通过提升计算机性能来克服,因此更多是采用纵向扩展(提升服务器的性能)
    2. NoSQL数据库是横向扩展的,它的存储天然就是分布式的,可以通过给资源池添加更多的普通数据库服务器来分担负载

    3、对事务性的支持不同

    关系型数据库遵循ACID规则(原子性(Atomicity)、一致性(Consistency)、隔离性(Isolation)、持久性(Durability))。

    NoSQL数据库遵循BASE原则(基本可用(Basically Availble)、软/柔性事务(Soft-state)、最终一致性(Eventual Consistency))。

    由于关系型数据库的数据强一致性,所以对事务的支持很好。关系型数据库支持对事务原子性细粒度控制,并且易于回滚事务。

    NoSQL数据库是在CAP (一致性、可用性、分区容忍度)中任选两项,因为基于节点的分布式系统中,不可能同时全部满足,所以对事务的支持不是很好。

    非关系型数据库产生背景

    可用于应对web2.0纯动态网站类型的三高问题。

    (1) High performance——对数据库高并发读写需求

    (2) Huge storage——对海量数据高效存储与访问需求
    (3) High scalability && High Availability—对数据库高可扩展性与高可用性需求
    关系型数据库和非关系型数据库都有各自的特点与应用场景,两者的紧密结合将会给Web2.06的数据库发展带来新的思路。让关系型数据库关注在关系上和对数据的一致性保障,非关系型数据库关注在存储和高效率上。例如,在读写分离的uysgL数据库环境中,可以把经常访问的数据存储在非关系型数据库中,提升访问速度。
    总结:
    关系型数据库:
    实例-->数据库-->表(table)-->记录行(row)、数据字段(column)
    非关系型数据库:
    实例-->数据库-->集合(collection)-->键值对(key-value)非关系型数据库不需要手动建数据库和集合(表)。

    二、Redis

    Redis简介

    • Redis 是一个开源的、使用 C 语言编写的 NoSQL 数据库。

    • Redis 基于内存运行并支持持久化,采用key-value(键值对)的存储形式,是目前分布式架构中不可或缺的一环。

    • Redis服务器程序是单进程模型,也就是在一台服务器上可以同时启动多个Redis进程,Redis的实际处理速度则是完全依靠于主进程的执行效率。

    • 若在服务器上只运行一个Redis进程,当多个客户端同时访问时,服务器的处理能力是会有一定程度的下降.若在同一台服务器上开启多个Redis进程,Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力.所以在实际生产环境中,需要根据实际的需求来决定开启多少个Redis进程。

    Redis的优点

    1. 具有极高的数据读写速度:数据读取的速度最高可达到110000次/s,数据写入速度最高可达到81000次/s
    2. 持丰富的数据类型:支持key-value(键值对) 、 String、Lists、Hashes、Sets及Ordered Sets等数据类型操作
    3. 支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用
    4. 原子性:Redis所有操作都是原子性的
    5. 支持数据备份:即master-slave模式的数据备份

    Memcache和Redis的区别

    Memcache Redis
    类型 Key-value数据库 Key-value数据库
    过期策略 支持 支持
    数据类型 单一数据类型 五大数据类型
    持久化 不支持 支持
    主从复制 不支持 支持
    虚拟内存 不支持 支持

    Redis常见的数据结构

    常见的5种

    • String:字符串,最基础的数据类型

    • List:列表

    • Hash:哈希对象

    • Set:集合

    • Sorted Set:有序集合, Set 的基础上加了个分值

    Redis作为基于内存运行的数据库,是一个高性能的缓存,一般应用在session缓存、队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。

    Redis适用于数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者需要保证一致性、逻辑简单的场景。

    Redis为什么读写速度这么快

    1. Redis 是一款纯内存结构,避免了磁盘I/O等耗时操作
    2. Redis 命令处理的核心模块为单线程,减少了锁竞争,以及频繁创建线程和销毁线程的代价,减少了线程上下文切换的消耗
    3. 采用了 I/O 多路复用机制,大大提升了并发效率

    注:在Redis 6.0 中新增加的多线程也只是争对处理网络请求过程采用了多线程,二数据的读写命令,仍然是单线程处理。

    Redis的请求过程

    dbab66e82d6c6c2e6ed69d213008dd4

    三、Redis安装部署

    1.编译安装redis

    #准备工作
    systemctl stop firewalld
    setenforce 0
    #安装依赖包
    yum install -y gcc-c++ make
    cd /opt/
    #把解压包放在opt下并解压
    tar zxvf redis-5.0.7.tar.gz
    cd /opt/redis-5.0.7/
    make
    #编译安装指定安装目录
    make PREFIX=/usr/local/redis install
    #由于Redis源码包中直接提供了Makefile文件,所以在解压完软件包后,不用先执行./configure进行配置,可直接执行make与make install命令进行安装
    

    2.执行软件包自带的install_server.sh脚本文件设置redis服务相关配置

    cd /opt/redis-5.0.7/utils
    ./install_server.sh
    #慢慢回车
    Selected config:
    Port #第一个设置默认侦听端口6379
    Config file #第二个设置配置文件路径/etc/redis/6379.conf
    Log file#第三个设置日志文件路径/var/log/redis_6379.log
    Data dir#第四个设置数据文件目录/var/lib/redis/6379(持久化文件在这里)
    Executable#第五个设置Redis执行命令的路径手动设置一下/usr/local/redis/bin/redis-server
    Cli Executable#客户端命令工具/usr/local/bin/redis-cli
    
    

    3.把redis的可执行程序放入路径环境变量的目录便于系统识别

    #做个软连接
    ln -s /usr/local/redis/bin/* /usr/local/bin/
    #当install_server.sh 脚本运行完毕,Redis服务就已经启动,默认侦听端口为6379
    netstat -natp | grep redis
    
    #redis服务控制
    /etc/init.d/redis_6379 stop				#停止
    /etc/init.d/redis_6379 start			#启动
    /etc/init.d/redis_6379 restart			#重启
    /etc/init.d/redis_6379 status			#状态
    

    4.修改配置/etc/redis/6379.conf

    vim /etc/redis/6379.conf
    
    #第70行;监听的主机地址
    bind 127.0.0.1 192.168.239.40
    #93行;Redis默认的监听端口
    port 6379									
    #137行;启用守护进程
    daemonize yes							
    #159行;指定 PID 文件
    pidfile /var/run/redis_6379.pid				
    #167行;日志级别
    loglevel notice								
    #172行;指定日志文件
    logfile /var/log/redis_6379.log	
    
    /etc/init.d/redis_6379 restart
    netstat -natp | grep redis
    

    四、Redis命令工具

    redis-server		用于启动 Redis 的工具
    redis-benchmark		用于检测 Redis 在本机的运行效率
    redis-check-aof		修复 AOF 持久化文件
    redis-check-rdb		修复 RDB 持久化文件
    redis-cli	 		Redis命令行工具
    

    1.redis-cli命令行工具

    #语法:redis-cli -h host -p port -a password
    
    -h	指定远程主机
    -p	指定 Redis 服务的端口号
    -a	指定密码,未设置数据库密码可以省略-a 选项
    #若不添加任何选项表示,则使用 127.0.0.1:6379 连接本机上的 Redis 数据库
    #例:
    redis-cli -h 192.168.239.40 -p 6379
    #此时无密码,不需要-a直接登陆
    

    2.redis-benchmark测试工具

    redis-benchmark 是官方自带的Redis性能测试工具,可以有效的测试Redis服务的性能。

    基本的测试语法:redis-benchmark [选项] [选项值]
    
    选项 参数
    -h 指定服务器主机名
    -p 指定服务器端口
    -s 指定服务器socket
    -c 指定并发连接数
    -n 指定请求数
    -d 以字节的形式指定 SET/GET值的数据大小
    -k 1=keep alive 0=reconnect
    -r SET/GET/INCR 使用随机 key,SADD使用随机值
    -p 通过管道传输请求
    -q 强制退出redis。仅显示query/sec的值
    -csv 以CSV格式输出
    -l 生成循环,永久执行测试
    -t 仅运行以逗号分隔的测试命令列表
    -i Idle 模式。仅打开N个idle连接并等待
    • 向IP地址为192.168.239.40、端口为6379的Redis服务器发送100个并发连接和100000个请求测试性能
    redis-benchmark -h 192.168.239.40 -p 6379 -c 100 -n 100000
    
    • 测试存取大小为100字节的数据包的性能
    redis-benchmark -h 192.168.239.40 -p 6379 -q -d 100
    
    • 测试本机上Redis服务在进行set与lpush操作时的性能
    redis-benchmark -t set,lpush -n 100000 -q
    

    3.Redis数据库常用命令

    1、set/get存放/获取数据

    set		存放数据,命令格式为 set key value   #set 键  键所对应的值
    get		获取数据,命令格式为 get key         #get
    #例子:
    redis-cli -p 6379
    192.168.239.40:6379> set name Davin
    OK
    192.168.239.40:6379> get name
    "Davin"
    

    2、 keys 取值

    keys 命令可以取符合规则的键值列表,通常情况可以结合*、?等选项来使用
    
    127.0.0.1:6379> set k1 1
    OK
    127.0.0.1:6379> set k2 2
    OK
    127.0.0.1:6379> set k3 3
    OK
    127.0.0.1:6379> set k4 4
    OK
    127.0.0.1:6379> set k5 5
    OK
    127.0.0.1:6379> set v1 6
    OK
    127.0.0.1:6379> set v22 7
    OK
    keys *   #查看当前Redis数据库中有多少个键 
    keys k*  #查看以k为开头的键(0个或者多个任意字符)
    keys k?  #查看以k为开头(1个任意字符)
    keys v?? #查看以v开头且后面2个任意字符
    

    3、 exists 判断值是否存在

    127.0.0.1:6379> EXISTS name
    (integer) 1                    #1表示teacher键存在
    127.0.0.1:6379> EXISTS ww
    (integer) 0                    #0表示teacher不存在
    

    4、 del删除当前数据库指定key

    del  命令可以删除当前数据库指定key
    
    127.0.0.1:6379> del k1 k2
    (integer) 2
    127.0.0.1:6379> KEYS k?
    1) "k3"
    2) "k5"
    3) "k4"
    127.0.0.1:6379> EXISTS k1
    (integer) 0
    127.0.0.1:6379> EXISTS k2
    (integer) 0
    

    5、 type获取值的类型

    type  命令可以获取 key 对应 value 值类型
    
    #例
    1、
    192.168.239.40:6379> TYPE name
    string
    2、
    192.168.239.40:6379> hset myhash field1 "zhang"
    (integer) 1
    192.168.239.40:6379> TYPE myhash
    hash
    

    6、 rename重命名

    rename:命令是对已有key进行重命名。(覆盖)
    命令格式:rename 源key 目标key
    

    使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists 命令查看目标 key 是否存在,然后再决定是否执行 rename 命令,以避免覆盖重要数据。

    192.168.239.40:6379> get v22
    "7"
    192.168.239.40:6379> RENAME v22 v2 #直接改名,不存在v2
    OK
    192.168.239.40:6379> KEYS *
     1) "myhash"
     2) "k5"
     3) "v1"
     4) "k3"
     5) "k4"
     6) "counter:__rand_int__"
     7) "myset:__rand_int__"
     8) "v2"
     9) "key:__rand_int__"
    10) "mylist"
    11) "name"
    192.168.239.40:6379> get v22  #返回空值
    (nil)
    192.168.239.40:6379> get v2  #
    "7"
    192.168.239.40:6379> get v1
    "6"
    192.168.239.40:6379> RENAME v2 v1
    OK
    192.168.239.40:6379> KEYS *
     1) "myhash"
     2) "k5"
     3) "v1"
     4) "k3"
     5) "k4"
     6) "counter:__rand_int__"
     7) "myset:__rand_int__"
     8) "key:__rand_int__"
     9) "mylist"
    10) "name"
    192.168.239.40:6379> get v1
    "7"
    

    7、 renamenx重命名(不覆盖)

    renamenx 命令的作用是对已有 key 进行重命名,并检测新名是否存在,如果目标 key 存在则不进行重命名。(不覆盖)
    命令格式:renamenx 源key 目标key
    
    192.168.239.40:6379> get v1
    "7"
    192.168.239.40:6379> get k3
    "3"
    192.168.239.40:6379> RENAMENX v1 k3
    (integer) 0          #renamenx重命名,如果新名存在,则不执行重命名
    192.168.239.40:6379> get k3
    "3"
    192.168.239.40:6379> get v1
    "7"
    

    8、 dbsize 查看库中key的数量

    dbsize 命令的作用是查看当前数据库中 key 的数目
    192.168.239.40:6379> DBSIZE
    (integer) 10
    

    9、 设置密码

    使用config set requirepass password命令设置密码
    使用config get requirepass命令查看密码(一旦设置密码,必须先验证通过密码,否则所有操作不可用)
    
    #例
    192.168.239.40:6379> config set requirepass 123456
    OK
    192.168.239.40:6379> get name
    (error) NOAUTH Authentication required.
    192.168.239.40:6379> auth 123456
    OK
    192.168.239.40:6379> get name
    "Davin"
    192.168.239.40:6379> quit
    [root@localhost ~]# redis-cli -h 192.168.239.40 -p 6379 -a 123456
    Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.
    192.168.239.40:6379> KEYS *
     1) "myhash"
     2) "k5"
     3) "v1"
     4) "k3"
     5) "k4"
     6) "counter:__rand_int__"
     7) "myset:__rand_int__"
     8) "key:__rand_int__"
     9) "mylist"
    10) "name"
    192.168.239.40:6379> CONFIG GET requirepass  #查看当前密码
    1) "requirepass"
    2) "123456"
    
    192.168.239.40:6379> config set requirepass ''#设置空密码
    OK
    192.168.239.40:6379> CONFIG GET requirepass
    1) "requirepass"
    2) ""
    
    

    4.Redis多数据库常用命令

    • Redis支持多数据库,Redis默认情况下包含16个数据库,数据库名称时用数字0-15来依次命名的。多数据库相互独立,互不干扰。

    (1)多数据库间切换

    命令格式:select 序号
    使用 redis-cli 连接 Redis 数据库后,默认使用的是序号为 0 的数据库。
    
    192.168.239.40:6379> select 10
    OK
    192.168.239.40:6379[10]> KEYS *
    (empty list or set)
    192.168.239.40:6379[10]> SELECT 15
    OK
    192.168.239.40:6379[15]> SELECT 0
    OK
    192.168.239.40:6379> KEYS *
     1) "myhash"
     2) "k5"
     3) "v1"
     4) "k3"
     5) "k4"
     6) "counter:__rand_int__"
     7) "myset:__rand_int__"
     8) "key:__rand_int__"
     9) "mylist"
    10) "name"
    

    (2)多数据库间移动数据

    格式:move 键值 序号
    

    192.168.239.40:6379> move v1 10   #从0移动到10
    (integer) 1
    192.168.239.40:6379> SELECT 10    #切换到10
    OK
    192.168.239.40:6379[10]> KEYS *   #查看所有的键
    1) "v1"
    192.168.239.40:6379[10]> get v1   #查看v1键的值
    "7"
    192.168.239.40:6379[10]> SELECT 0 #切回0
    OK
    192.168.239.40:6379> get v1       #查看v1值 为空
    (nil)
    

    (3)清除数据库内数据

    FLUSHDB :清空当前数据库数据
    FLUSHALL :清空所有数据库的数据,慎用!
    

    192.168.239.40:6379> SELECT 10    
    OK
    192.168.239.40:6379[10]> KEYS *
    1) "v1"
    192.168.239.40:6379[10]> set v2 20
    OK
    192.168.239.40:6379[10]> set v3 30
    OK
    192.168.239.40:6379[10]> KEYS *
    1) "v2"
    2) "v3"
    3) "v1"
    192.168.239.40:6379[10]> FLUSHDB   #清空当前数据库
    OK
    192.168.239.40:6379[10]> KEYS *
    (empty list or set)
    
    192.168.239.40:6379[10]> SELECT 0
    OK
    192.168.239.40:6379> KEYS *
    1) "myhash"
    2) "k5"
    3) "k3"
    4) "k4"
    5) "counter:__rand_int__"
    6) "myset:__rand_int__"
    7) "key:__rand_int__"
    8) "mylist"
    9) "name"
    192.168.239.40:6379> SELECT 10
    OK
    192.168.239.40:6379[10]> set v2 20
    OK
    192.168.239.40:6379[10]> set v3 30
    OK
    192.168.239.40:6379[10]> KEYS *
    1) "v2"
    2) "v3"
    192.168.239.40:6379[10]> FLUSHALL  #清空所有的数据库数据
    OK
    192.168.239.40:6379[10]> KEYS *
    (empty list or set)
    192.168.239.40:6379[10]> SELECT 0
    OK
    192.168.239.40:6379> KEYS *
    (empty list or set)
    
    

    五、Redis高可用

    在web服务器中,高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务(99.9%、99.99%、99.999%等等)。 但是在Redis语境中,高可用的含义似乎要宽泛一些,除了保证提供正常服务(如主从分离、快速容灾技术),还需要考虑数据容量的扩展、数据安全不会丢失等。

    在Redis中,实现高可用的技术主要包括持久化、主从复制、哨兵和集群,下面分别说明它们的作用,以及解决了什么样的问题 。

    • 持久化:持久化是最简单的高可用方法(有时甚至不被归为高可用的手段),主要作用是数据备份,即将数据存储在硬盘,保证数据不会因进程退出而丢失。

    • 主从复制:从复制是高可用Redis的基础,哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。

      • 缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制。
    • 哨兵:在主从复制的基础上,哨兵实现了自动化的故障恢复。

      • 缺陷:写操作无法负载均衡;存储能力受到单机的限制。
    • cluster集群:通过集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,实现了较为完善的高可用方案。

    六、Redis持久化

    持久化的功能:Redis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失,需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。除此之外,为了进行灾难备份,可以将持久化文件拷贝到一个远程位置。

    Redis 提供两种方式进行持久化

    • RDB 持久化:原理是将 Reids在内存中的数据库记录定时保存到磁盘上。
    • AOF 持久化(append only file):原理是将 Reids 的操作日志以追加的方式写入文件,类似于MySQL的binlog。

    总结:由于AOF持久化的实时性更好,即当进程意外退出时丢失的数据更少,因此AOF是目前主流的持久化方式,不过RDB持久化仍然有其用武之地。

    1.RDB持久化

    RDB持久化:指在指定的时间间隔内将内存中当前进程中的数据生成快照保存到硬盘(因此也称作快照持久化),用二进制压缩存储,保存的文件后缀是rdb;当Redis重新启动时,可以读取快照文件恢复数据。

    (1)触发条件
    RDB持久化的触发分为手动触发自动触发两种。

    ①手动触发

    • save命令和bgsave命令都可以生成RDB文件。
  • 相关阅读:
    【Python实战】--输出与输出(updating)
    appium环境搭建
    Java核心篇,二十三种设计模式(十九),行为型——观察者模式
    基于FPGA的SD NAND图片显示实现
    c++ string用法 入门必看 超详细
    ComText让机器人有了情节记忆
    最近写过的dp题单(持续更新)
    专业/户籍不限!腾讯/华为招聘提到的PMP证书!多行业适用
    【高危安全通告】微软8月多个漏洞修复
    月销10万+!长城汽车全面发力“森林式生态体系”结硕果
  • 原文地址:https://www.cnblogs.com/DavinWw/p/16391054.html