【Redis 神秘大陆】001 背景基础理论

news2025/6/9 6:36:55

一、背景&基础理论

1.1 什么是缓存

缓存:存储在计算机上的一个原始数据复制集,以便于访问——维基百科

1.2 为什么用缓存

  • 提升用户体验: 【即效率、效益和基本主观满意度】CAST

  • 使用者的状态、系统性能及环境,不同的人对于同样的软件可能有不同的主观感受,而且不同的人对于软件性能关心的视角也不同。

  • 提升系统的性能: 缓存离用户最近,利用缓存可以最小化系统的工作量,能够降低系统的链路

  • 响应时间: 指系统对用户请求做出响应的时间,与人对软件性能的主观感受是非常一致的,它完整地记录了整个系统处理请求的时间,

  • 响应时间= 呈现时间(取决于页面)+系统响应时间【网络传输+应用延迟时间】

  • 延迟时间: 网络传输+应用延迟

  • 吞吐量: 系统在单位时间内处理请求的数量

  • 无并发的系统,吞吐量与响应时间成反比

  • 并发用户数: 并发用户数能够笼统的概括系统性能指标

  • 资源利用率: 资源利用率能够反馈资源的占用情况

1.3 缓存的分类

软件位置划分

客户端缓存
  • 页面缓存: 页面自身元素缓存【之前渲染的页面保存为文件 localStorage 存储】+服务端对静态页面进行缓存 【CDN】

  • 浏览器缓存:

  • 通过请求头: e-tag标记文件 id ,if-modified-sincence 标识更新时间, http 协议,通过发送下载时间给服务端,服务端如果发现没有变更则返回 304-not modified ,客户端收到后可以直接使用缓存文件

  • Cache-control 和 Expires 一致,Cache-Control 选择更多。 cache-control

  • Cache-control|Expires > last-modified/etag

  • APP 缓存: 内存缓存、数据库缓存,文件缓存,用于 均衡网速、流量

服务端缓存
  • 数据库缓存:

  • MySQL 的查询缓存,通过下面命令进行判断是否合理,核心考察缓存命中率

SHOW VARIABLES LIKE '%query_cache%';

have_query_cache	YES
query_cache_limit	1048576
query_cache_min_res_unit	1024
query_cache_size	3145728
query_cache_type	OFF
query_cache_wlock_invalidate	OFF
  • Innodb 的缓存性能: innodb_buffer_pool_size,可以通过
SHOW VARIABLES LIKE 'innodb_buffer_pool_size%';
innodb_buffer_pool_size	51539607552  48G
  • (Innodb_buffer_pool_read_requestsInnodb_buffer_pool_reads)/Innodb_buffer_pool_read_requests*1 00%计算缓存命中率,并根据命中率来调整innodb_buffer_pool_size 参数大小进行优化。

  • 平台缓存: Ehcache、GuaCache [JVM]

  • 应用缓存: Redis 【新浪微博】、memCache 等

img

网络中的缓存
  • 代理缓存: 较流行的是Squid,它支持建立复杂的缓存层级 结构,拥有详细的日志、高性能缓存以及用户认证支持
  • 边缘缓存: 例如 Nginx、CDN

正向代理主要处理客户端请求,反向代理主要处理服务器端响应

  • 正向代理:指客户端通过代理服务器请求目标服务器的行为,即代理服务器代表客户端去请求目标服务器。客户端和代理服务器之间通过协议进行通讯。
  • 反向代理:指目标服务器通过代理服务器来响应客户端请求的行为。客户端直接请求代理服务器,然后由代理服务器去选择目标服务器来进行响应。代理服务器和目标服务器之间采用内部协议通讯。

宿主层次划分

类型描述
本地缓存/进程内缓存[L1 L2 L3] JVM jVM存储在应用服务器本地的缓存模式,通常位于同一个JVM内。 本地缓存也称为进程内缓存,直接访问进程所属内存,无需进程间通信,速度最快。 可分为堆内缓存和堆外缓存。堆内缓存会对垃圾回收产生影响,而堆外缓存则会增加序列化和反序列化的开销。
进程间缓存当进程内缓存较大时,重启后需要重新加载缓存,导致系统启动缓慢。可通过在本机单独启动一个进程来专门存放缓存,并通过Domain Socket进行通信。
远程缓存需要跨服务器访问的缓存,数据存放于单独的缓存服务器上。 典型的远程缓存包括Memcached和Redis等。
二级缓存是本地缓存和远程缓存的结合,用于互联网系统。对于易变的数据,散列到分布式部署的远程缓存,减少数据库层访问以提升性能。对于不易改变但访问量大的数据,则进一步放置到本地缓存中,以获得更高的访问性能。

img

  • 大型网站的架构示意图

1.4 基础理论

CAP 理论

  • C:一致性被称为原子对象,任何的读写都应该看起来是“原子”的, 或串行的。写后面的读一定能读到前面写的内容。所有的读写请求都好像被 全局排序。

  • A:对任何非失败节点都应该在有限时间内给出请求的回应。(请求的 可终止性)

  • P:允许节点之间丢失任意多的消息,当网络分区发生时,节点之间的 消息可能会完全丢失。

  • 一致性(C):在分布式系统中的所有数据备份,在同一时刻是否有同样的值。(等同于所有节点访问同一份最新的数据副本)

  • 可用性(A):在集群中一部分节点故障后,集群整体是否还能响应客 户端的读写请求。(对数据更新具备高可用性)

  • 分区容忍性(P):以实际效果而言,分区相当于对通信的时限要求。 系统如果不能在一定时限内达成数据一致性,就意味着发生了分区的情况, 必须就当前操作在C和A之间做出选择。

  • 当网络发生分区时,由于通信路线中断,不可能同时满足一致性和可用性。

  • 一致性需要每个请求返迴之前保证所有分布式节点都达成一致,这与分区情况下不同节点暂时失联是矛盾的。

  • 但是由于网络是不可靠的,分区故障是无法避免的。那么在分区期间,系统要么选择延迟请求得到一致应答(C优先),要么返回可用但可能不一致的快速应答(A优先)。

  • 所以在分布式系统,我们只能做到优先满足CAP中的任何两项,而第三项必须作出让步。

todo : 待确认

模型一致性(Consistency)可用性(Availability)分区容忍性(Partition Tolerance)不能满足的原因
RedisRedis集群在节点选举期间可能出现部分不可用,牺牲了可用性。
ZooKeeperZooKeeper集群在Leader选举期间可能出现部分不可用,牺牲了可用性。

BASE 理论

  • BASE 分别是基本可用性(Basically Available)、柔性事务(Soft State)和最终一致性(Eventually Consistent)的缩写

例如 RocketMQ 的事物消息

JSR 规范

📎JSR107FinalSpecification.pdf

Map<String,<Map<String,Object>>> = Cache 用户信息缓存

<Map<String,Object> = > Entry

Spring-Data-Cache

  1. 基础概念:介绍了核心接口,包括CachingProvider、CacheManager、Cache、Entry和ExpiryPolicy,以及它们的职责和关系。

  2. CacheProvider 创建 CacheManager

  3. CacheManager 管理 Cache

  4. Cache 类似 Map 的数据结构并且存储 Key 为索引的值

  5. Entry: 是存储在 Cache 中的 Key-Value

  6. ExpiryPolicy : 缓存过期策略

  7. 一致性模型:讨论了缓存操作的一致性行为,包括默认一致性模型和可能的其他一致性模型。

  8. 缓存拓扑:描述了缓存条目可能存储的位置,包括本地和分布式环境。

  9. 执行上下文:解释了EntryProcessors、CacheEntryListeners、CacheLoaders、CacheWriters和ExpiryPolicys在缓存操作中的执行环境。

  10. 再入性:讨论了在这些接口的实现中可能限制的再入性。

  11. 简单示例:提供了一个创建和使用缓存的基本示例。

  12. CacheManagers:详细介绍了CacheManager的职责,包括如何获取、配置、创建、关闭和销毁缓存。

  13. 缓存:描述了Cache接口及其方法,以及如何使用它来执行缓存操作。

  14. 缓存注释介绍了一组用于简化缓存交互的注释,如**@CacheDefaults****、@CacheResult@CachePut@CacheRemove和****@CacheRemoveAll****。**

  15. 管理:讨论了如何启用和禁用缓存的管理功能和统计信息。

  16. 可移植性建议:提供了一系列建议,以确保应用程序在使用Java Caching API的不同实现之间具有良好的可移植性。

img

客户端层:使用者直接通过该层与数据进行交互。

缓存提供层:主要对缓存管理层的生命周期进行维护,负责缓存管理 层的创建、保存、获取以及销毁。

缓存管理层:主要对缓存客户端的生命周期进行维护,负责缓存客户 端的创建、保存、获取以及销毁。

缓存存储层:负责数据以什么样的形式进行存储。

基本存储层:是以普通的ConcurrentHashMap为存储核心,数据不淘 汰。

LRU存储层:是以最近最少用为原则进行的数据存储和缓存淘汰机制。

Weak存储层:是以弱引用为原则的数据存储和缓存淘汰机制。

1.5 通用逻辑

imgimg

如果觉得内容对你有帮助的话,还请点个免费的 Star,这是对我最大的鼓励,感谢各位一起同行,共勉!传送门:GitHub | Gitee

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1598800.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

(最新)华为 2024 届实习招聘-硬件通⽤/单板开发——第十一套和十二套

&#xff08;最新&#xff09;华为 2024 届实习招聘-硬件通⽤/单板开发——第十一套和十二套 部分题目分享&#xff0c;完整版带答案(有答案和解析&#xff0c;答案非官方&#xff0c;未仔细校正&#xff0c;仅供参考&#xff09;&#xff08;共十套&#xff09;获取&#xff…

InnoDB架构:内存篇

InnoDB架构&#xff1a;内存篇 InnoDB是MySQL数据库中默认的存储引擎&#xff0c;它为数据库提供了事务安全型&#xff08;ACID兼容&#xff09;、行级锁定和外键支持等功能。InnoDB的架构设计优化了对于读取密集和写入密集型应用的性能表现&#xff0c;是一个高度优化的存储系…

逆向IDA中Dword,数据提取

我们可以看见数据是这样的&#xff0c;第一个是1cc 但是我们shifte就是 这个因为他的数据太大了&#xff0c;导致高位跑后面去了 这个时候&#xff0c;我们右键——convert——dword 这样就可以提取到争取的数据了 比如第一个数据 0x1cc a0xcc b0x1 print(hex((b<<8…

李沐25_使用块的网络VGG——自学笔记

VGG架构 1.多个VGG块后接全连接层 2.不同次数的重复块得到不同的架构 VGG-16、VGG-19 3.更大更深的AlexNet ##经典卷积神经网络的基本组成部分是下面的这个序列&#xff1a; 1.带填充以保持分辨率的卷积层&#xff1b; 2.非线性激活函数&#xff0c;如ReLU&#xff1b; …

zabbix升级后图形文字不显示

原版本升级后版本6.4.76.4.13 问题现象 更新小版本后zabbix数据图形都有&#xff0c;只有下方文字不显示 处理方式 下载win字体&#xff0c;根据自己选择&#xff0c;上传至/usr/share/zabbix/assets/fonts目录下&#xff0c;修改文件名为jianti.ttf 修改默认字体配置文件…

新项目应该选mongodb还是postgresql?

文章目录 MongoDBPostgreSQL大数据处理时的优势对比实际使用经验 选择MongoDB还是PostgreSQL作为新项目的数据库&#xff0c;主要取决于项目的具体需求、数据模型、应用场景以及团队熟悉程度等因素。下面将从几个关键角度对两者进行对比分析。 MongoDB 数据模型&#xff1a;Mo…

Django中的静态文件、路径、访问静态文件的方法

1.什么是静态文件 不能与服务器端做动态交互的文件都是静态文件 如:图片,css,js,音频,视频,html文件(部分) 2.静态文件配置 在 settings.py 中配置一下两项内容: 1.配置静态文件的访问路径 通过哪个url地址找静态文件 STATIC_URL ‘/static/’ 说…

zabbix 监控网络设备之 smnpwalk简单使用

安装&#xff1a; sudo yum install net-snmp net-snmp-utils 设备MIB文件查看OID&#xff1b; [rootzabbix ~]$snmpwalk -v 2c -c public 192.168.1.100 1.3.6.1.4.1.2011.6.139.12.1.5.7 SNMPv2-SMI::enterprises.2011.6.139.12.1.5.7.0 INTEGER: 62 所以命令也可以写成…

机器学习之特征选择(Feature Selection)

1 引言 特征提取和特征选择作为机器学习的重点内容&#xff0c;可以将原始数据转换为更能代表预测模型的潜在问题和特征的过程&#xff0c;可以通过挑选最相关的特征&#xff0c;提取特征和创造特征来实现。要想学习特征选择必然要了解什么是特征提取和特征创造&#xff0c;得…

李秘书讲写作告诉你,答辩状这样写才有说服力!你觉得呢?

李秘书讲写作告诉你&#xff0c;答辩状这样写才有说服力&#xff01;你觉得呢&#xff1f; 答辩状是一种法律文书&#xff0c;用于对对方的指控或诉讼进行回应和反驳。为了让答辩状具有说服力&#xff0c;你需要清晰地陈述你的立场、提供证据&#xff0c;并以逻辑和事实为基础…

JS-31-错误传播

一、错误传播 如果代码发生了错误&#xff0c;又没有被try ... catch捕获&#xff0c;那么&#xff0c;程序执行流程会跳转到哪呢&#xff1f; 示例&#xff1a; function getLength(s) {return s.length; }function printLength() {console.log(getLength(abc)); // 3conso…

OpenHarmony轻量系统开发【2】源码下载和开发环境

2.1源码下载 关于源码下载的&#xff0c;读者可以直接查看官网&#xff1a; https://gitee.com/openharmony/docs/tree/master/zh-cn/release-notes 本文这里做下总结&#xff1a; &#xff08;1&#xff09;注册码云gitee账号。 &#xff08;2&#xff09;注册码云SSH公钥…

Springboot+Vue项目-基于Java+MySQL的校园周边美食探索及分享平台系统(附源码+演示视频+LW)

大家好&#xff01;我是程序猿老A&#xff0c;感谢您阅读本文&#xff0c;欢迎一键三连哦。 &#x1f49e;当前专栏&#xff1a;Java毕业设计 精彩专栏推荐&#x1f447;&#x1f3fb;&#x1f447;&#x1f3fb;&#x1f447;&#x1f3fb; &#x1f380; Python毕业设计 &…

一.shell基本知识

目录 1.1为什么学习和使用Shell编程 1.2什么是Shell 1.2.1 shell的起源 1.2.2shell的功能 1.3shell的分类 1.4作为程序设计的语言一—shell 1.5如何学好shell 1.6shell脚本的基本元素 1.7 shell脚本编写规范 1.8 shell脚本的执行方式 1.9 执行脚本的方法 1.10 shel…

ThinkPHP V5.1框架源码

源码下载地址&#xff1a;ThinkPHP V5.1.zip www WEB部署目录&#xff08;或者子目录&#xff09; ├─application 应用目录 │ ├─common 公共模块目录&#xff08;可以更改&#xff09; │ ├─module_name 模块目录 │ │ ├─common.php 模块函数文件 │ │ ├─controll…

首届《综合品酒师》培训规模创大世界基尼斯,云仓酒庄再上新台阶

近日&#xff0c;云仓酒庄举办的首届《综合品酒师》培训活动圆满落幕&#xff0c;其盛大的规模与参与度不仅成功刷新了大世界基尼斯纪录&#xff0c;更为云仓酒庄的发展注入了新的活力与动能。这次培训不仅彰显了云仓酒庄在酒类培训领域的专业化与系统化&#xff0c;更为其未来…

vs配置opencv运行时“发生生成错误,是否继续并运行上次的成功生成”BUG解决办法

vs“发生生成错误&#xff0c;是否继续并运行上次的成功生成” 新手在用vs配置opencv时遇到这个错误时&#xff0c;容易无从下手解决。博主亲身经历很有可能是release/debug模式和配置文件不符的问题。 在配置【链接器】→【输入】→【附加依赖项】环节&#xff0c;编辑查看选择…

北京大学快手发布统一的图文视频生成大模型Video-LaVIT

随着多模态大语言模型&#xff08;LLMs&#xff09;的新发展&#xff0c;人们越来越关注如何将它们从图像-文本数据扩展到更具信息量的真实世界视频。与静态图像相比&#xff0c;视频为有效的大规模预训练带来了独特的挑战&#xff0c;因为需要对其时空动态进行建模。 针对视频…

企业微信对接金蝶KIS生成总账凭证

客户介绍&#xff1a; 某集团企业是一家致力于打造更全面的农产业链条&#xff0c;生产更高品质的农业产品的国际现代化农业公司。集团布局四川、贵州、广东、中国香港、澳大利亚等地&#xff0c;业务涉足大肥牛交易平台、超级牧场、肉牛养殖、蜂产业、饲草、智能化装备、有机…

多模态之ALBEF—先对齐后融合,利用动量蒸馏学习视觉语言模型表征,学习细节理解与论文详细阅读:Align before Fuse

Align before Fuse: Vision and Language Representation Learning with Momentum Distillation &#xff08;ALBEF&#xff09;在融合之前对齐&#xff1a;利用动量蒸馏进行视觉与语言表示学习 Paper: arxiv.org/pdf/2107.07651.pdf Github: https://github.com/salesforce/…