NoSQL内存/缓存型数据库 相比于其他的内存/缓存数据库redis可以方便的实现持久化的功能保存至磁盘中一、关系数据库与非关系数据库概述1、关系型数据库关系型数据库是一个结构化的数据库创建在关系模型二维表格模型基础上一般面向于记录。SQL 语句标准数据查询语言就是一种基于关系型数据库的语言用于执行对关系型数据库中数据的检索和操作。主流的关系型数据库包括 **Oracle、MySQL、SQL Server、Microsoft Access、DB2** 等。2、非关系型数据库NoSQL(NoSQL Not Only SQL )意思是“不仅仅是 SQL”是非关系型数据库的总称。除了主流的关系型数据库外的数据库都认为是非关系型。主流的 NoSQL 数据库有 **Redis、MongBD、Hbase、Memcached、Varnish** 等。3、关系数据库与非关系数据库的区别1数据存储方式不同关系型和非关系型数据库的主要差异是数据存储的方式。关系型数据天然就是表格式的因此存储在数据表的行和列中。数据表可以彼此关联协作存储也很容易提取数据。与其相反非关系型数据不适合存储在数据表的行和列中而是大块组合在一起。非关系型数据通常存储在数据集中就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。| 关系型 | 依赖于关系模型E-R图同时以表格形式的方式存储数据 || --- | --- || 非关系型 | 除了以表格形式存储之外通常会以大块的形式组合在一起进行存储数据 |2扩展方式不同SQL和NoSQL数据库最大的差别可能是在扩展方式上要支持日益增长的需求当然要扩展。要支持更多并发量SQL数据库是纵向扩展也就是说提高处理能力使用速度更快速的计算机这样处理相同的数据集就更快了。因为数据存储在关系表中操作的性能瓶颈可能涉及很多个表这都需要通过提高计算机性能来客服。虽然SQL数据库有很大扩展空间但最终肯定会达到纵向扩展的上限。而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点)来分担负载。| 关系型数据库 | 纵向 | 天然表格式 || --- | --- | --- || 非关系型数据库 | 横向 | 天然分布式 |3对事务性的支持不同如果数据操作需要高事务性或者复杂数据查询需要控制执行计划那么传统的SQL数据库从性能和稳定性方面考虑是你的最佳选择。SQL数据库支持对事务原子性细粒度控制并且易于回滚事务。虽然NoSQL数据库也可以使用事务操作但稳定性方面没法和关系型数据库比较所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。| 关系型 | 特别适合高事务性要求和需要执行控制执行计划的任务 || --- | --- || 非关系型 | 此处会稍显弱势其价值点在于高扩展性和大数据量方面 |4、非关系型数据库产生背景可用于应对web2.0纯动态网站类型的三高问题| High performance | 对数据库高并发读写要求 || --- | --- || Huge Storage | 对海量数据高效存储与访问需求 || High Scalability High Availability | 对数据库高可扩展性与高可用性需求 |关系型数据库和非关系型数据库都有各自的特点与应用场景两者的紧密结合将会给Web2.0的数据库发展带来新的思路。让关系数据库关注在关系上非关系型数据库关注在存储上。例如在读写分离的MySQL数据库环境中可以把经常访问的数据存储在非关系型数据库中提升访问速度。总结关系型数据库实例 - 数据库 - 表table- 记录行row、数据字段column非关系型数据库实例 - 数据库 - 集合collection - 键值对key-value二、Redis简介Redis 是一个开源的、使用 C 语言编写的 NoSQL 数据库。Redis 基于内存运行并支持持久化支持存储在磁盘里采用key-value键值对的存储形式是目前分布式架构中不可或缺的一环。1、Redis服务器程序的单进程模型Redis服务器程序是单进程模型也就是在一台服务器上可以同时启动多个Redis进程Redis的实际处理速度则是完全依靠于主进程的执行效率。若在服务器上只运行一个Redis进程当多个客户端同时访问时服务器的处理能力是会有一定程度的下降。若在同一台服务器上开启多个Redis进程Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。在实际生产环境中需要根据实际的需求来决定开启多少个Redis进程。若对高并发要求更高一些可能会考虑在同一台服务器上开启多个进程。若 CPU 资源比较紧张采用单进程即可。建议可以开2个线程原因1、备份2、提高并发的同时尽量不要给CPU造成太大的压力2、Redis的优点1具有极高的数据读写速度数据读取的速度最高可达到 110000 次/s数据写入速度最高可达到 81000 次/s。2支持丰富的数据类型支持 key-value、Strings、Lists、Hashes、Sets 及 Ordered Sets 等数据类型操作。| string | 字符串可以为整型、浮点型和字符串通称为元素 || --- | --- || list | 列表实现队列元素不唯一先入先出原则 || set | 集合各不相同的元素 || hash | hash散列值hash的key必须是唯一的 || ordered set | 有序集合 |3支持数据的持久化可以将内存中的数据保存在磁盘中重启的时候可以再次加载进行使用。4原子性Redis 所有操作都是原子性的。5支持数据备份即 master-salve 模式的数据备份。Redis作为基于内存运行的数据库**缓存是其最常应用的场景之一。除此之外Redis常见应用场景还包括获取最新N个数据的操作、排行榜类应用、计数器应用、存储关系、实时分析系统、日志记录。3、哪些数据适合放入缓存中即时性。例如查询最新的物流状态信息。数据一致性要求不高。例如门店信息修改后数据库中已经改了五分钟后缓存中才是最新的但不影响功能使用。访问量大且更新频率不高例如网站首页的广告信息访问量大但是不会经常变化。4、Redis为什么这么快Redis是一款纯内存结构避免了**磁盘I/O**等耗时操作。Redis命令处理的核心模块为单线程不存在多线程切换而消耗CPU不用考虑各种锁的问题不存在加锁、释放锁的操作没有因为可能出现死锁而导致性能消耗。采用了 I/O 多路复用机制大大提升了并发效率。5、Redis的数据类型String字符串list双向列表Hash哈希set集合zset有序集合注在 Redis 6.0 中新增加的多线程也只是针对处理网络请求过程采用了多线性而数据的读写命令仍然是单线程处理的。三、Redis部署环境准备演示环境不用做。修改内核参数vim /etc/sysctl.confvm.overcommit_memory 1net.core.somaxconn 10000sysctl -p安装redis官方网站https://redis.io/编译安装redisyum install -y gcc gcc-c maketar zxvf /root/redis-7.2.4.tar.gz -C /opt/cd /root/redis-7.2.4makemake PREFIX/usr/local/redis install由于Redis源码包中直接提供了 Makefile 文件所以在解压完软件包后不用先执行 ./configure 进行配置可直接执行 make 与 make install 命令进行安装。创建redis工作目录mkdir /usr/local/redis/{conf,log,data}cp /root/redis-7.2.4/redis.conf /usr/local/redis/conf/实际生产环境部署必须不能使用root用户运行redis假如yum安装过redis需要删除redis账户再进行创建。useradd -M -s /sbin/nologin redischown -R redis.redis /usr/local/redis/命令优化ln -s /usr/local/redis/bin/* /usr/local/bin/yum安装redis,安装版本较低yum install -y redis环境变量vim /etc/profilePATH$PATH:/usr/local/redis/bin 增加一行source /etc/profile1、配置文件cp redis.conf 6379.confcat 6379.conf | grep -v ^# | grep -v ^$bind 127.0.0.1 192.168.115.111 绑定的 IP 地址Redis 将只在这些 IP 上监听连接请求。protected-mode no 关闭保护模式允许外部访问 Redis 服务器。port 6379 Redis 服务器监听的端口默认为 6379。tcp-backlog 511 TCP 连接的 backlog 数量。timeout 0 客户端连接的超时时间0 表示没有超时。tcp-keepalive 300 TCP 连接的保活时间。daemonize yes 以守护进程方式运行 Redis。pidfile /usr/local/redis/log/6379.pid 保存 PID 的文件路径。loglevel notice 日志级别。logfile /usr/local/redis/log/6379.log 日志文件的路径。databases 16 Redis 数据库的数量。always-show-logo no 不总是显示启动时的 logo。set-proc-title yes 设置进程标题。proc-title-template {title} {listen-addr} {server-mode} 进程标题的模板。locale-collate 本地化排序设置。stop-writes-on-bgsave-error yes 在后台保存时出现错误则停止写入。rdbcompression yes RDB 文件压缩。rdbchecksum yes RDB 文件校验。dbfilename dump.rdb RDB 文件名。rdb-del-sync-files no 不同步删除 RDB 文件。dir /usr/local/redis/data/ 数据文件存储目录。replica-serve-stale-data yes 从服务器可以提供过期数据。replica-read-only yes 从服务器只读。repl-diskless-sync yes 无磁盘复制。repl-diskless-sync-delay 5 无磁盘复制的延迟。repl-diskless-sync-max-replicas 0 无磁盘复制的最大从服务器数量。repl-diskless-load disabled 禁用无磁盘加载。repl-disable-tcp-nodelay no 不禁用 TCP_NODELAY。replica-priority 100 从服务器的优先级。acllog-max-len 128 ACL 日志的最大长度。lazyfree-lazy-eviction no 不延迟释放被驱逐的键。lazyfree-lazy-expire no 不延迟释放过期的键。lazyfree-lazy-server-del no 不延迟释放服务器删除的键。replica-lazy-flush no 不延迟从服务器的 flush。lazyfree-lazy-user-del no 不延迟释放用户删除的键。lazyfree-lazy-user-flush no 不延迟释放用户 flush 的键。oom-score-adj no 不调整 OOM内存不足分数。oom-score-adj-values 0 200 800 OOM 分数的值。disable-thp yes 禁用透明大页Transparent HugePages。appendonly no 不使用 AOFAppend Only File持久化。appendfilename appendonly.aof AOF 文件名。appenddirname appendonlydir AOF 文件存储目录。appendfsync everysec AOF 同步策略。no-appendfsync-on-rewrite no 在重写时不同步 AOF。auto-aof-rewrite-percentage 100 自动重写 AOF 的百分比。auto-aof-rewrite-min-size 64mb 自动重写 AOF 的最小大小。aof-load-truncated yes 加载不完整的 AOF。aof-use-rdb-preamble yes AOF 使用 RDB 作为前缀。aof-timestamp-enabled no AOF 中不记录时间戳。slowlog-log-slower-than 10000 慢日志记录的阈值。slowlog-max-len 128 慢日志的最大长度。latency-monitor-threshold 0 延迟监控的阈值。notify-keyspace-events 发布订阅的事件。hash-max-listpack-entries 512 哈希列表的最大条目数。hash-max-listpack-value 64 哈希列表的最大值。list-max-listpack-size -2 列表的最大 Listpack 大小。list-compress-depth 0 列表压缩深度。set-max-intset-entries 512 集合整数集的最大条目数。set-max-listpack-entries 128 集合列表的最大条目数。set-max-listpack-value 64 集合列表的最大值。zset-max-listpack-entries 128 有序集合列表的最大条目数。zset-max-listpack-value 64 有序集合列表的最大值。hll-sparse-max-bytes 3000 HyperLogLog 稀疏格式的最大字节数。stream-node-max-bytes 4096 Stream 节点的最大字节数。stream-node-max-entries 100 Stream 节点的最大条目数。activerehashing yes 激活重哈希。client-output-buffer-limit normal 0 0 0 普通客户端输出缓冲区限制。client-output-buffer-limit replica 256mb 64mb 60 从客户端输出缓冲区限制。client-output-buffer-limit pubsub 32mb 8mb 60 发布订阅客户端输出缓冲区限制。hz 10 时间事件的频率。dynamic-hz yes 动态调整 hz。aof-rewrite-incremental-fsync yes AOF 重写时增量同步。rdb-save-incremental-fsync yes RDB 保存时增量同步。jemalloc-bg-thread yes 使用 jemalloc 后台线程。修改配置文件vim /usr/local/redis/conf/redis.confbind 127.0.0.1 192.168.115.111 87行添加 监听的主机地址protected-mode no 111行将本机访问保护模式设置no。如果开启了那么在没有设定bind ip且没有设密码的情况下Redis只允许接受本机的响应port 6379 138行Redis默认的监听6379端口daemonize yes 309行设置为守护进程后台启动pidfile /usr/local/redis/log/6379.pid 341行指定 PID 文件logfile /usr/local/redis/log/6379.log 354行指定日志文件dir /usr/local/redis/data 504行指定持久化文件所在目录requirepass 123.com 1037行增加一行设置redis密码定义systemd服务管理脚本不建议vim /usr/lib/systemd/system/redis-server.service[Unit]DescriptionRedis ServerAfternetwork.target[Service]UserredisGroupredisTypeforkingTimeoutSec0PIDFile/usr/local/redis/log/redis_6379.pidExecStart/usr/local/redis/bin/redis-server /usr/local/redis/conf/6379.confExecReload/bin/kill -s HUP $MAINPIDExecStop/bin/kill -s QUIT $MAINPIDPrivateTmptrue[Install]WantedBymulti-user.target启动服务systemctl start redis-serversystemctl enable redis-servernetstat -lntp | grep 63792、Redis 命令工具redis-server 服务器启动命令redis-benchmark 性能测试工具用于检测 Redis 在本机的运行效率redis-check-aof 修复有问题的 AOF 持久化文件redis-check-rdb 修复有问题的 RDB 持久化文件redis-cli 客户端命令行工具redis-sentinel 哨兵集群使用redis-serverUsage: ./redis-server [/path/to/redis.conf] [options] [-]./redis-server - (read config from stdin)./redis-server -v or --version./redis-server -h or --help./redis-server --test-memory megabytes./redis-server --check-systemExamples:./redis-server (run the server with default conf)echo maxmemory 128mb | ./redis-server -./redis-server /etc/redis/6379.conf./redis-server --port 7777./redis-server --port 7777 --replicaof 127.0.0.1 8888./redis-server /etc/myredis.conf --loglevel verbose -./redis-server /etc/myredis.conf --loglevel verboseSentinel mode:./redis-server /etc/sentinel.conf --sentinelredis-cli命令行工具语法redis-cli -h host -p port [-a password]-h 指定远程主机-p 指定 Redis 服务的端口号-a 指定密码未设置数据库密码可以省略-a 选项若不添加任何选项表示则使用 127.0.0.1:6379 连接本机上的 Redis 数据库例redis-cli -h 192.168.115.111 -p 6379 -a abc123redis-benchmark 测试工具redis-benchmark 是官方自带的 Redis 性能测试工具可以有效的测试 Redis 服务的性能。基本的测试语法redis-benchmark [选项] [选项值]。-h 指定服务器主机名。-p 指定服务器端口。-s 指定服务器 socket-c 指定并发连接数。 -n 指定请求数。-d 以字节的形式指定 SET/GET 值的数据大小。-k 1keep alive 0reconnect 。-r SET/GET/INCR 使用随机 key, SADD 使用随机值。-P 通过管道传输numreq请求。-q 强制退出 redis。仅显示 query/sec 值。--csv 以 CSV 格式输出。-l 生成循环永久执行测试。-t 仅运行以逗号分隔的测试命令列表。-I Idle 模式。仅打开 N 个 idle 连接并等待。向 IP 地址为 192.168.115.111、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能redis-benchmark -h 192.168.115.111 -p 6379 -c 100 -n 100000 -a abc123测试存取大小为 100 字节的数据包的性能redis-benchmark -h 192.168.115.111 -p 6379 -q -d 100 -a abc123测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能redis-benchmark -t set,lpush -n 100000 -q -a abc1233、Redis 数据库常用命令set存放数据命令格式为 set key valueget获取数据命令格式为 get key192.168.115.111:6379 set play csgo192.168.115.111:6379 get play通过set命令为键设置新值并覆盖原有值。192.168.115.111:6379 get playcsgo192.168.115.111:6379 set play lolOK192.168.115.111:6379 get playlolkeys 命令可以取符合规则的键值列表通常情况可以结合、等选项来使用。192.168.115.111:6379:6379 set k1 1192.168.115.111:6379:6379 set k2 2192.168.115.111:6379:6379 set k3 3192.168.115.111:6379:6379 set v1 4192.168.115.111:6379:6379 set v5 5192.168.115.111:6379:6379 set v22 5192.168.115.111:6379:6379 KEYS 查看当前数据库中所有键192.168.115.111:6379:6379 KEYS v 查看当前数据库中以 v 开头的数据192.168.115.111:6379:6379 KEYS v? 查看当前数据库中以 v 开头后面包含任意一位的数据192.168.115.111:6379:6379 KEYS v?? 查看当前数据库中以 v 开头 v 开头后面包含任意两位的数据Ⅰ、exists 命令可以判断键值是否存在。192.168.115.111:6379 exists k1 判断 k1 键是否存在(integer) 1 1 表示 k1键是存在192.168.115.111:6379 exists k0(integer) 0 0 表示 k0 键是不存在Ⅱ、del 命令可以删除当前数据库的指定 key。192.168.115.111:6379 keysk2k3v22v5v1k1192.168.115.111:6379 del v5 删除当前数据库的指定 key。(integer) 1192.168.115.111:6379 del v5(integer) 0Ⅲ、type 命令可以获取 key 对应的 value 值类型192.168.115.111:6379 type k1stringⅣ、expire 命令可以为给定的 key 设置过期时间192.168.115.111:6379 expire k1 10 设置 k1 键的过期时间为 10 秒(integer) 1Ⅴ、ttl 命令可以查看 key 还有多少秒过期-1表示永不过期-2表示已过期192.168.115.111:6379 expire k2 10(integer) 1192.168.115.111:6379 ttl k2(integer) 5192.168.115.111:6379 ttl k2(integer) 3192.168.115.111:6379 ttl k2(integer) -2键值对设置完时间之后会消失Ⅵ、rename 命令是对已有 key 进行重命名。覆盖命令格式rename 源key 目标key使用rename命令进行重命名时无论目标key是否存在都进行重命名且源key的值会覆盖目标key的值。在实际使用过程中建议先用 exists 命令查看目标 key 是否存在然后再决定是否执行 rename 命令以避免覆盖重要数据。192.168.115.111:6379 keys1) v12) v2192.168.115.111:6379 get v110192.168.115.111:6379 get v220192.168.115.111:6379 rename v1 v2OK192.168.115.111:6379 get v1(nil)192.168.115.111:6379 get v210Ⅶ、renamenx 命令作用是对已有 key 进行重命名并检测新名是否存在如果目标 key 存在则不进行重命名。不覆盖命令格式renamenx 源key 目标key192.168.115.111:6379 keys192.168.115.111:6379 get teacherzhangsan192.168.115.111:6379 get v24192.168.115.111:6379 renamenx v2 teacher(integer) 0192.168.115.111:6379 keys192.168.115.111:6379 get teacherzhangsan192.168.115.111:6379 get v24Ⅷ、dbsize 命令作用是查看当前数据库中 key 的数目。192.168.115.111:6379 dbsize(integer) 1 只有一个keyⅨ、使用config set requirepass 命令设置密码192.168.115.111:6379 config set requirepass 密码使用config get requirepass命令查看密码命令行验证密码192.168.115.111:6379 authⅩ、使用append追加并返回value的长度192.168.115.111:6379 keys1) v2192.168.115.111:6379 append kk hello 该键并不存在因此append命令返回当前Value的长度。(integer) 5192.168.115.111:6379 append v2 hello 该键已经存在因此返回追加后Value的长度。(integer) 7ⅩⅠ 、strlen获取指定Key的字符长度。192.168.115.111:6379 strlen 键值对ⅩⅡ、批量设置键和查看键192.168.115.111:6379mset 键名1 值1 键名2 值2192.168.115.111:6379mget 键1 键24、Redis 多数据库常用命令Redis 支持多数据库Redis 默认情况下包含 16 个数据库数据库名称是用数字 0-15 来依次命名的。多数据库相互独立互不干扰。Ⅰ、多数据库间切换命令格式select 序号使用 redis-cli 连接 Redis 数据库后默认使用的是序号为 0 的数据库。192.168.115.111:6379 select 10 切换至序号为 10 的数据库192.168.115.111:6379[10] select 15 切换至序号为 15 的数据库192.168.115.111:6379[15] select 0 切换至序号为 0 的数据库Ⅱ、多数据库间移动数据move 键值 序号192.168.115.111:6379 set k1 100OK192.168.115.111:6379 get k1100192.168.115.111:6379 select 1OK192.168.115.111:6379[1] get k1(nil)192.168.115.111:6379[1] select 0 切换至目标数据库 0OK192.168.115.111:6379 get k1 查看目标数据是否存在100192.168.115.111:6379 move k1 1 将数据库 0 中 k1 移动到数据库 1 中(integer) 1192.168.115.111:6379 select 1 切换至目标数据库 1OK192.168.115.111:6379[1] get k1 查看被移动数据100192.168.115.111:6379[1] select 0OK127.0.0.1:6379 get k1 在数据库 0 中无法查看到 k1 的值Ⅲ、清除数据库内数据FLUSHDB 清空当前数据库数据FLUSHALL 清空所有数据库的数据慎用