NOSQL redis配置与优化

NOSQL与NOSQL

关系型数据库#

 

关系型数据库是一个结构化的数据库，创建在关系模型（二维表格模型）基础上，一般面向于记录。
SQL 语句（标准数据查询语言）就是一种基于关系型数据库的语言，用于执行对关系型数据库中数据的检索和操作。
主流的关系型数据库包括 Oracle、MySQL、SQL Server、Microsoft Access、DB2、PostgreSQL 等。
以上数据库在使用的时候必须先建库建表设计表结构，然后存储数据的时候按表结构去存，如果数据与表结构不匹配就会存储失败。

 

 

非关系型数据库#

NoSQL(NoSQL = Not Only SQL )，意思是“不仅仅是 SQL”，是非关系型数据库的总称。
除了主流的关系型数据库外的数据库，都认为是非关系型。
不需要预先建库建表定义数据存储表结构，每条记录可以有不同的数据类型和字段个数（比如微信群聊里的文字、图片、视频、音乐等）。
主流的 NoSQL 数据库有 Redis、MongBD、Hbase、Memcached、ElasticSearch、TSDB 等。

 

 

关系型数据库和非关系型数据库区别#

（1）数据存储方式不同
关系型和非关系型数据库的主要差异是数据存储的方式。关系型数据天然就是表格式的，因此存储在数据表的行和列中。数据表可以彼此关联协作存储，也很容易提取数据。
与其相反，非关系型数据不适合存储在数据表的行和列中，而是大块组合在一起。非关系型数据通常存储在数据集中，就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。

（2）扩展方式不同
SQL和NoSQL数据库最大的差别可能是在扩展方式上，要支持日益增长的需求当然要扩展。
要支持更多并发量，SQL数据库是纵向扩展，也就是说提高处理能力，使用速度更快速的计算机，这样处理相同的数据集就更快了。因为数据存储在关系表中，操作的性能瓶颈可能涉及很多个表，这都需要通过提高计算机性能来克服。虽然SQL数据库有很大扩展空间，但最终肯定会达到纵向扩展的上限。
而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的，NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点)来分担负载。

对事务性的支持不同#

 

如果数据操作需要高事务性或者复杂数据查询需要控制执行计划，
那么传统的SQL数据库从性能和稳定性方面考虑是你的最佳选择。
SQL数据库支持对事务原子性细粒度控制，并且易于回滚事务。
虽然NoSQL数据库也可以使用事务操作，
但稳定性方面没法和关系型数据库比较，所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。

 

 

非关系型数据库产生背景#

 

可用于应对 Web2.0 纯动态网站类型的三高问题（高并发、高性能、高可用）。
（1）High performance——对数据库高并发读写需求
（2）Huge Storage——对海量数据高效存储与访问需求
（3）High Scalability && High Availability——对数据库高可扩展性与高可用性需求

关系型数据库和非关系型数据库都有各自的特点与应用场景，两者的紧密结合将会给Web2.0的数据库发展带来新的思路。让关系型数据库关注在关系上和对数据的一致性保障，非关系型数据库关注在存储和高效率上。例如，在读写分离的MySQL数据库环境中，可以把经常访问的数据存储在非关系型数据库中，提升访问速度。

总结：
关系型数据库：
实例-->数据库-->表(table)-->记录行(row)、数据字段(column)

非关系型数据库：
实例-->数据库-->集合(collection)-->键值对(key-value)
非关系型数据库不需要手动建数据库和集合（表）。

SQL与NOSQL区别#

 

#存储结构
SQL(二维表格结构)
NOSQL(不固定，键值对，文档，索引，图形结构，时间序列等)

#扩展方式
SQL(纵向扩展[提升单机硬件性能])
NOSQL(横向扩展[增加服务器节点数量])

#事务支持
SQL(基于ACID原则，事务控控制更稳定，细粒度更高)
NOSQL(基于BASE原则，稳定性和细粒度控制方面不如SQL)

#典型代表
SQL(MySQL，Oracle，SQL-SERVER,POSTGRESQL)
NOSQL(REDIS,MEMCACHED,MONGDB,ELASTICSEARCH,PROMETHEUS)

 

 

 

 

 

 

 

REDIS

介绍#

Redis（远程字典服务器） 是一个开源的、使用 C 语言编写的 NoSQL 数据库。
Redis 基于内存运行并支持持久化，采用key-value（键值对）的存储形式，
是目前分布式架构中不可或缺的一环。


Redis服务器程序是单进程模型，也就是在一台服务器上可以同时启动多个Redis进程，
Redis的实际处理速度则是完全依靠于主进程的执行效率。若在服务器上只运行一个Redis进程，
当多个客户端同时访问时，服务器的处理能力是会有一定程度的下降；若在同一台服务器上开启多个Redis进程，
Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。
即：在实际生产环境中，需要根据实际的需求来决定开启多少个Redis进程。若对高并发要求更高一些，
可能会考虑在同一台服务器上开启多个进程。若CPU资源比较紧张，采用单进程即可。

Redis优点#

（1）具有极高的数据读写速度：数据读取的速度最高可达到 110000 次/s，数据写入速度最高可达到 81000 次/s。
（2）支持丰富的数据类型：支持 key-value、Strings、Lists、Hashes、Sets 及 Sorted Sets 等数据类型操作。
（3）支持数据的持久化：可以将内存中的数据保存在磁盘中，重启的时候可以再次加载进行使用。
（4）原子性：Redis 所有操作都是原子性的。
（5）支持数据备份：即 master-salve 模式的数据备份。

#5种基础数据类型：String、List、Set、Zset、Hash。

#String（字符串）

底层数据结构：SDS即动态字符串，最大容量512M，每次最多扩容1M，是二进制安全的。意思是redis的string可以包含任何数据。比如jpg图片或序列化的对象

应用场景：分布式锁、计数器(如访问次数、点赞转发数量)

常用方法：set 、get、strlen 、incr 、 decr 、setnx、setex、exists


#list（双向列表）：

特点：单值多键，用来存储多个有序的字符串，一个列表最多可以存储2^32-1个元素。可以实现队列和栈

底层数据结构：快表

应用场景：消息队列 、文章列表

常用方法：lpush 、lrang 、rpush 、lpop 、rpop 、llen、lindex、rpoplpush、linsert


#Hash（哈希）：

底层数据结构：压缩列表、哈希表。

特点：指v（值）本身又是一个键值对（k-v）结构

应用场景：缓存用户信息、购物车等。

常用方法：hset 、hget 、hkeys 、hvals 、hmset 、hmget 、hgetAll 、hlen 、hdel 、hsetnx 、hexists


#set（集合）：

特点：用来保存多个的字符串元素，但是不允许重复元素，元素是无序的。可以实现并集、交集、差集的操作

底层数据结构：哈希表、整数集

应用场景：抽奖、共同关注、QQ内推等。

常用方法：sadd 、smembers 、sismember 、scard 、srem 、srandmember、spop、smove、sdiff、sinter、sunion


#zset（有序集合）：

特点：有序不重复的集合。和 set 相⽐sorted set 增加了⼀个权重参数 score，可以根据score进行排序，但score是可以重复的，value是不可以重复的。

底层数据结构：压缩列表、跳表

应用场景：排行榜、抖音热搜

常用方法：zadd 、zrange 、zrangebyscore(按score从小到大) 、zrem 、zcard 、zcount 、zrevrange(按score从大到小）


#Redis端口号6379



#三种特殊的数据类型：
HyperLogLogs（基数统计），
Bitmaps (位图) ， 
geospatial （地理位置)

使用场景#

Redis作为基于内存运行的数据库，是一个高性能的缓存，一般应用在Session缓存、队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。
Redis 适用于数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者只需要保证弱一致性、逻辑简单的场景。

我们通常会将部分数据放入缓存中，来提高访问速度，然后数据库承担存储的工作。

 

哪些数据适合放入缓存中#

即时性。例如查询最新的物流状态信息。
数据一致性要求不高。例如门店信息，修改后，数据库中已经改了，
五分钟后缓存中才是最新的，但不影响功能使用。
访问量大且更新频率不高，例如网站首页的广告信息，访问量大，但是不会经常变化。

 

 

Redis快的原因#

1、Redis是一款纯内存结构，避免了磁盘I/O等耗时操作。
2、Redis命令处理的核心模块为单线程，不存在多线程切换而消耗CPU，不用考虑各种锁的问题，不存在加锁、释放锁的操作，没有因为可能出现死锁而导致性能消耗。
3、采用了 I/O 多路复用机制，大大提升了并发效率。

#注：在 Redis 6.0 中新增加的多线程也只是针对处理网络请求过程采用了多线性，而数据的读写命令，仍然是单线程处理的。

 

 

redis部署#

 

 

 

#由于Redis源码包中直接提供了 Makefile 文件，所以在解压完软件包后，不用先执行 ./configure 进行配置，可直接执行 make 与 make install 命令进行安装。

 

 #创建redis工作目录

 

 #创建用户

 #将redis的属主属组改成redis

 #设置环境变量

 #添加全局变量

 #修改配置文件

 #启动

 #加上本地地址，监听的主机地址

 #改为no，将本机访问保护模式设置no。如果开启了，那么在没有设定bind ip且没有设密码的情况下，Redis只允许接受本机的响应

 #端口号6379，默认

 #设置为守护进程，后台启动

 #指定 PID 文件

 #指定日志文件

 #指定持久化文件所在目录

 #增加一行，设置redis密码

 #定义systemd服务管理

 

 #启动redis服务

 

REDIS命令工具#

redis-server：Redis 服务器启动命令
redis-benchmark：性能测试工具，用于检测 Redis 在本机的运行效率
redis-check-aof：修复有问题的 AOF 持久化文件
redis-check-rdb：修复有问题的 RDB 持久化文件
redis-cli：Redis 客户端命令行工具
redis-sentinel：Redis 哨兵集群使用

-----redis-cli 命令行工具-----
语法：redis-cli -h host -p port [-a password]
-h ：指定远程主机
-p ：指定 Redis 服务的端口号
-a ：指定密码，未设置数据库密码可以省略-a 选项
若不添加任何选项表示，则使用 127.0.0.1:6379 连接本机上的 Redis 数据库

redis-cli -h 192.168.19.20 -p 6379 -a '123'  

 #登录redis

redis-benchmark测试工具#

redis-benchmark 是官方自带的 Redis 性能测试工具，可以有效的测试 Redis 服务的性能。
基本的测试语法：redis-benchmark [选项] [选项值]。
-h ：指定服务器主机名。
-p ：指定服务器端口。
-s ：指定服务器 socket
-c ：指定并发连接数。 
-n ：指定请求数。
-d ：以字节的形式指定 SET/GET 值的数据大小。
-k ：1=keep alive 0=reconnect 。
-r ：SET/GET/INCR 使用随机 key, SADD 使用随机值。
-P ：通过管道传输<numreq>请求。
-q ：强制退出 redis。仅显示 query/sec 值。
--csv ：以 CSV 格式输出。
-l ：生成循环，永久执行测试。
-t ：仅运行以逗号分隔的测试命令列表。
-I ：Idle 模式。仅打开 N 个 idle 连接并等待。

#向 IP 地址为 192.168.80.10、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能
redis-benchmark -h 192.168.80.10 -p 6379 -c 100 -n 100000

#测试存取大小为 100 字节的数据包的性能
redis-benchmark -h 192.168.80.10 -p 6379 -q -d 100

#测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能
redis-benchmark -t set,lpush -n 100000 -q

 

 

 #测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能

 

 #向 IP 地址为 192.168.19.20、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能

 

Redis数据库常用命令#

set：存放数据，命令格式为 set key value
get：获取数据，命令格式为 get key

127.0.0.1:6379> set teacher zhangsan
OK
127.0.0.1:6379> get teacher
"zhangsan"

# keys 命令可以取符合规则的键值列表，通常情况可以结合*、？等选项来使用。
127.0.0.1:6379> set k1 1
127.0.0.1:6379> set k2 2
127.0.0.1:6379> set k3 3
127.0.0.1:6379> set v1 4
127.0.0.1:6379> set v5 5
127.0.0.1:6379> set v22 5

127.0.0.1:6379> KEYS *                #查看当前数据库中所有键

127.0.0.1:6379> KEYS v*                #查看当前数据库中以 v 开头的数据

127.0.0.1:6379> KEYS v?                #查看当前数据库中以 v 开头后面包含任意一位的数据

127.0.0.1:6379> KEYS v??                #查看当前数据库中以 v 开头 v 开头后面包含任意两位的数据

# exists 命令可以判断键值是否存在。
127.0.0.1:6379> exists teacher        #判断 teacher 键是否存在
(integer) 1                            # 1 表示 teacher 键是存在
127.0.0.1:6379> exists tea
(integer) 0                            # 0 表示 tea 键不存在

# del 命令可以删除当前数据库的指定 key。
127.0.0.1:6379> keys *
127.0.0.1:6379> del v5
127.0.0.1:6379> get v5

# type 命令可以获取 key 对应的 value 值类型。
127.0.0.1:6379> type k1
string

#expire 命令可以为给定的 key 设置过期时间
127.0.0.1:6379> expire k1 10        #设置 k1 键的过期时间为 10 秒

#ttl 命令可以查看 key 还有多少秒过期，-1表示永不过期，-2表示已过期
127.0.0.1:6379> ttl k1

# rename 命令是对已有 key 进行重命名。（覆盖）
命令格式：rename 源key 目标key
使用rename命令进行重命名时，无论目标key是否存在都进行重命名，且源key的值会覆盖目标key的值。在实际使用过程中，建议先用 exists 命令查看目标 key 是否存在，然后再决定是否执行 rename 命令，以避免覆盖重要数据。

127.0.0.1:6379> keys v*
1) "v1"
2) "v22"
127.0.0.1:6379> rename v22 v2
OK
127.0.0.1:6379> keys v*
1) "v1"
2) "v2"
127.0.0.1:6379> get v1
"4"
127.0.0.1:6379> get v2
"5"
127.0.0.1:6379> rename v1 v2
OK
127.0.0.1:6379> get v1
(nil)
127.0.0.1:6379> get v2
"4"

# renamenx 命令的作用是对已有 key 进行重命名，并检测新名是否存在，如果目标 key 存在则不进行重命名。（不覆盖）
命令格式：renamenx 源key 目标key
127.0.0.1:6379> keys *
127.0.0.1:6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"
127.0.0.1:6379> renamenx v2 teacher
(integer) 0
127.0.0.1:6379> keys *
127.0.0.1:6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"

# dbsize 命令的作用是查看当前数据库中 key 的数目。
127.0.0.1:6379> dbsize


#使用config set requirepass yourpassword命令设置密码
127.0.0.1:6379> config set requirepass 123456

#使用config get requirepass命令查看密码（一旦设置密码，必须先验证通过密码，否则所有操作不可用）
127.0.0.1:6379> auth 123456
127.0.0.1:6379> config get requirepass


---- Redis 多数据库常用命令 ----
Redis 支持多数据库，Redis 默认情况下包含 16 个数据库，数据库名称是用数字 0-15 来依次命名的。
多数据库相互独立，互不干扰。

#多数据库间切换
命令格式：select 序号
使用 redis-cli 连接 Redis 数据库后，默认使用的是序号为 0 的数据库。

127.0.0.1:6379> select 10            #切换至序号为 10 的数据库

127.0.0.1:6379[10]> select 15        #切换至序号为 15 的数据库

127.0.0.1:6379[15]> select 0            #切换至序号为 0 的数据库

#多数据库间移动数据
格式：move 键值 序号

127.0.0.1:6379> set k1 100
OK
127.0.0.1:6379> get k1
"100"
127.0.0.1:6379> select 1
OK
127.0.0.1:6379[1]> get k1
(nil)
127.0.0.1:6379[1]> select 0            #切换至目标数据库 0
OK
127.0.0.1:6379> get k1                #查看目标数据是否存在
"100"
127.0.0.1:6379> move k1 1            #将数据库 0 中 k1 移动到数据库 1 中
(integer) 1
127.0.0.1:6379> select 1                #切换至目标数据库 1
OK
127.0.0.1:6379[1]> get k1            #查看被移动数据
"100"
127.0.0.1:6379[1]> select 0
OK
127.0.0.1:6379> get k1                #在数据库 0 中无法查看到 k1 的值
(nil)

#清除数据库内数据
FLUSHDB ：清空当前数据库数据
FLUSHALL ：清空所有数据库的数据，慎用！

 

 

set：存放数据，命令格式为 set key value
get：获取数据，命令格式为 get key

 

 

 

 

 #type获取对应的value值

 

 

 

 

 

 

 

 

 

 #redis有0~15号库

 

 

 

 #flushall #清空所有库  (慎用)

 

基础5中数据类型#

string#

 

 

 

 

 

 

 

 

 

 

 

LIST#

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 #看一下mykey中链表的元素有哪些

 

 

 

 

 

HASH数据类型#

 

 

 

 

 

 

 

 

 

 

 HINCRBY#

 

 

 

 

 

HGETALL/HKEYS/HVALS/HMGET/HMSET#

 

 

 

 

 #

Set数据类型（无序集合)#

 

 

 

 

 

 SPOP/SREM/SRANDMEMBER/SMOVE:#

 

 

 

 

 

 

 

 

 

Sorted Set数据类型（zset、有序集合）#

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ZRANGEBYSCORE/ZREMRANGEBYRANK/ZREMRANGEBYSCORE#

 

 

 

 

 

 

 

 

ZREVRANGE/ZREVRANGEBYSCORE/ZREVRANK#

 

 

 

 

 

 

 

 

总结#

#Redis  
是C语言开发的，开源的 ，且基于内存运行的NOSQL
数据存储结构；键值对(Key/Value  KV)
默认端口号 TCP/6379
数据类型:五大基础类型:string(字符串)，list(列表)，Hash(哈希/散列)，set(无序集合)，zset/Sorted Set (有序集合)
三种特殊的数据类型:HyperLogLogs（基数统计），Bitmaps (位图)， 
geospatial （地理位置)

#Redis为什么那么快
1）redis是基于内存运行的，数据读写都是在内存中完成的
2）数据读写采用的单线程模式，避免了多线程切换带来的cpu性能消耗，同时也不要考虑各种锁的问题
3）采用IO多路复用模型，可以是线程处理更多的网络连接请求，提高并发能力

网站性能压测工具   ab  imeter
redis 性能压测工具  redis-benchmark -h <redis服务地址> -p <服务端口> -c <并发连接数> -n <请求数> -d<数据大小> -t<命令列表> -q

redis 客户端工具 redis-cil -h 指定redis服务器地址 -p 服务端口 -a<密码> [命令]

#string
set 键 值  #增
get 键 值  #查
del       #删除


#list
lpush newlist 值1 值2 值3...
lrange newlist  起始下标(0代表第一个)  终止下标 (-1代表最后一个)

rpush newlist  值1 值2 值3...
lrange newlist 

lrem newlist +个数 +值 #删除元素个数值
lrem 键 元素个数 元素值 

del newlist #删除整个列表


#Hash
hset 键 字段1 值1 字段2 值2..
hget 键 字段
hdel 键 字段
hkeys 键
hvals 键
hgetall 键
del 键


#set
sadd 键 值1 值2 值3....
smembers 键
srem 键 值 #删除键中某一值
del 键


#有序 Zset
zadd 键 序号1 值1 序号2 值2
zrange 键 起始下标(0) 终止下标(1[withscores])
zrangebyscore 键 序号1 序号2 #根据序号范围查看
zrem 键 值1 值2.. #删除
zremrangebyscore 键 起始序号 终止序号 #根据序号范围删除
del键


#通用
type 键 #查看键的数据类型
keys 键 /* /？ #查询键名，支持通配符 * ？
exist 键  #判断一个键是否存在
expire 键 过期时间 #为已存在的键设置过期时间  
setex  键  过期时间 值 #创建string 类型的键 并设置过期时间
ttl 键 #查看键的生命周期时间  -1永不过期，-2已过期
rename 旧键  新键 #重命名键名 ，会覆盖已存在的键
renamenx 旧键  新键 #重命名键名，不会覆盖已存在的键
dbsize  #统计当前库中键的总数

config set requirepass '密码'  #设置redis密码/修改redis密码
config get requirepass  #查看密码
auth '密码'  #在redis里验证密码

select 库id  #切换库  默认0~15号库

move 键 库id #移动键到指定的库中  
flushdb #清空当前库  (慎用)
flushall #清空所有库  (慎用)