门户网站等保二级建设方案,用wordpress案例,ps做网站首页导航栏,做性视频网站有哪些内容事务
什么是事务#xff1f;
事务是一个单独的隔离操作#xff1a;事务中的所有命令都会序列化、按顺序地执行。事务在执行的过程中#xff0c;不会被其他客户端发送来的命令请求所打断。 事务是一个原子操作#xff1a;事务中的命令要么全部被执行#xff0c;要么全部都…事务
什么是事务
事务是一个单独的隔离操作事务中的所有命令都会序列化、按顺序地执行。事务在执行的过程中不会被其他客户端发送来的命令请求所打断。 事务是一个原子操作事务中的命令要么全部被执行要么全部都不执行。
Redis事务的概念
Redis 事务的本质是通过MULTI、EXEC、WATCH等一组命令的集合。事务支持一次执行多个命令一个事务中所有命令都会被序列化。在事务执行过程会按照顺序串行化执行队列中的命令其他客户端提交的命令请求不会插入到事务执行命令序列中。 总结说redis事务就是一次性、顺序性、排他性的执行一个队列中的一系列命令。
Redis事务的三个阶段
事务开始 MULTI命令入队事务执行 EXEC 事务执行过程中如果服务端收到有EXEC、DISCARD、WATCH、MULTI之外的请求将会把请求放入队列中排队
Redis事务相关命令
Redis事务功能是通过MULTI、EXEC、DISCARD和WATCH 四个原语实现的 Redis会将一个事务中的所有命令序列化然后按顺序执行。
redis 不支持回滚“Redis 在事务失败时不进行回滚而是继续执行余下的命令” 所以 Redis 的内部可以保持简单且快速。如果在一个事务中的命令出现错误那么所有的命令都不会执行如果在一个事务中出现运行错误那么正确的命令会被执行。 ● WATCH 命令是一个乐观锁可以为 Redis 事务提供 check-and-set CAS行为。 可以监控一个或多个键一旦其中有一个键被修改或删除之后的事务就不会执行监控一直持续到EXEC命令。 ● MULTI命令用于开启一个事务它总是返回OK。 MULTI执行之后客户端可以继续向服务器发送任意多条命令这些命令不会立即被执行而是被放到一个队列中当EXEC命令被调用时所有队列中的命令才会被执行。 ● EXEC执行所有事务块内的命令。返回事务块内所有命令的返回值按命令执行的先后顺序排列。 当操作被打断时返回空值 nil 。 ● 通过调用DISCARD客户端可以清空事务队列并放弃执行事务 并且客户端会从事务状态中退出。 ● UNWATCH命令可以取消watch对所有key的监控。
事务管理ACID概述
原子性Atomicity 原子性是指事务是一个不可分割的工作单位事务中的操作要么都发生要么都不发生。 一致性Consistency 事务前后数据的完整性必须保持一致。 隔离性Isolation 多个事务并发执行时一个事务的执行不应影响其他事务的执行 持久性Durability 持久性是指一个事务一旦被提交它对数据库中数据的改变就是永久性的接下来即使数据库发生故障也不应该对其有任何影响 Redis的事务总是具有ACID中的一致性和隔离性其他特性是不支持的。当服务器运行在AOF持久化模式下并且appendfsync选项的值为always时事务也具有耐久性。
Redis事务支持隔离性吗
Redis 是单进程程序并且它保证在执行事务时不会对事务进行中断事务可以运行直到执行完所有事务队列中的命令为止。因此Redis 的事务是总是带有隔离性的。
Redis事务保证原子性吗支持回滚吗
Redis中单条命令是原子性执行的但事务不保证原子性且没有回滚。事务中任意命令执行失败其余的命令仍会被执行。
Redis事务其他实现
● 基于Lua脚本Redis可以保证脚本内的命令一次性、按顺序地执行 其同时也不提供事务运行错误的回滚执行过程中如果部分命令运行错误剩下的命令还是会继续运行完 ● 基于中间标记变量通过另外的标记变量来标识事务是否执行完成读取数据时先读取该标记变量判断是否事务执行完成。但这样会需要额外写代码实现比较繁琐
集群方案
哨兵模式 哨兵的介绍
sentinel中文名是哨兵。哨兵是 redis 集群机构中非常重要的一个组件主要有以下功能 ● 集群监控负责监控 redis master 和 slave 进程是否正常工作。 ● 消息通知如果某个 redis 实例有故障那么哨兵负责发送消息作为报警通知给管理员。 ● 故障转移如果 master node 挂掉了会自动转移到 slave node 上。 ● 配置中心如果故障转移发生了通知 client 客户端新的 master 地址。
哨兵用于实现 redis 集群的高可用本身也是分布式的作为一个哨兵集群去运行互相协同工作。
● 故障转移时判断一个 master node 是否宕机了需要大部分的哨兵都同意才行涉及到了分布式选举的问题。 ● 即使部分哨兵节点挂掉了哨兵集群还是能正常工作的因为如果一个作为高可用机制重要组成部分的故障转移系统本身是单点的那就很坑爹了。
哨兵的核心知识
● 哨兵至少需要 3 个实例来保证自己的健壮性。 ● 哨兵 redis 主从的部署架构是不保证数据零丢失的只能保证 redis 集群的高可用性。 ● 对于哨兵 redis 主从这种复杂的部署架构尽量在测试环境和生产环境都进行充足的测试和演练。
官方Redis Cluster 方案(服务端路由查询) redis 集群模式的工作原理能说一下么在集群模式下redis 的 key 是如何寻址的分布式寻址都有哪些算法了解一致性 hash 算法吗
简介
Redis Cluster是一种服务端Sharding技术3.0版本开始正式提供。Redis Cluster并没有使用一致性hash而是采用slot(槽)的概念一共分成16384个槽。将请求发送到任意节点接收到请求的节点会将查询请求发送到正确的节点上执行
方案说明
通过哈希的方式将数据分片每个节点均分存储一定哈希槽(哈希值)区间的数据默认分配了16384 个槽位每份数据分片会存储在多个互为主从的多节点上数据写入先写主节点再同步到从节点(支持配置为阻塞同步)同一分片多个节点间的数据不保持一致性读取数据时当客户端操作的key没有分配在该节点上时redis会返回转向指令指向正确的节点扩容时时需要需要把旧节点的数据迁移一部分到新节点 在 redis cluster 架构下每个 redis 要放开两个端口号比如一个是 6379另外一个就是 加1w 的端口号比如 16379。 16379 端口号是用来进行节点间通信的也就是 cluster bus 的东西cluster bus 的通信用来进行故障检测、配置更新、故障转移授权。cluster bus 用了另外一种二进制的协议gossip 协议用于节点间进行高效的数据交换占用更少的网络带宽和处理时间。
节点间的内部通信机制
基本通信原理 集群元数据的维护有两种方式集中式、Gossip 协议。redis cluster 节点间采用 gossip 协议进行通信。
分布式寻址算法
● hash 算法大量缓存重建 ● 一致性 hash 算法自动缓存迁移 虚拟节点自动负载均衡 ● redis cluster 的 hash slot 算法
优点
● 无中心架构支持动态扩容对业务透明 ● 具备Sentinel的监控和自动Failover(故障转移)能力 ● 客户端不需要连接集群所有节点连接集群中任何一个可用节点即可 ● 高性能客户端直连redis服务免去了proxy代理的损耗
缺点
● 运维也很复杂数据迁移需要人工干预 ● 只能使用0号数据库 ● 不支持批量操作(pipeline管道操作) ● 分布式逻辑和存储模块耦合等
基于客户端分配 简介
Redis Sharding是Redis Cluster出来之前业界普遍使用的多Redis实例集群方法。其主要思想是采用哈希算法将Redis数据的key进行散列通过hash函数特定的key会映射到特定的Redis节点上。Java redis客户端驱动jedis支持Redis Sharding功能即ShardedJedis以及结合缓存池的ShardedJedisPool
优点
优势在于非常简单服务端的Redis实例彼此独立相互无关联每个Redis实例像单服务器一样运行非常容易线性扩展系统的灵活性很强
缺点
● 由于sharding处理放到客户端规模进一步扩大时给运维带来挑战。 ● 客户端sharding不支持动态增删节点。服务端Redis实例群拓扑结构有变化时每个客户端都需要更新调整。连接不能共享当应用规模增大时资源浪费制约优化
基于代理服务器分片 简介
客户端发送请求到一个代理组件代理解析客户端的数据并将请求转发至正确的节点最后将结果回复给客户端
特征
● 透明接入业务程序不用关心后端Redis实例切换成本低 ● Proxy 的逻辑和存储的逻辑是隔离的 ● 代理层多了一次转发性能有所损耗
业界开源方案
● Twtter开源的Twemproxy ● 豌豆荚开源的Codis
Redis 主从架构
单机的 redis能够承载的 QPS 大概就在上万到几万不等。对于缓存来说一般都是用来支撑读高并发的。因此架构做成主从(master-slave)架构一主多从主负责写并且将数据复制到其它的 slave 节点从节点负责读。所有的读请求全部走从节点。这样也可以很轻松实现水平扩容支撑读高并发。 redis-master-slave redis replication - 主从架构 - 读写分离 - 水平扩容支撑读高并发
redis replication 的核心机制
● redis 采用异步方式复制数据到 slave 节点不过 redis2.8 开始slave node 会周期性地确认自己每次复制的数据量 ● 一个 master node 是可以配置多个 slave node 的 ● slave node 也可以连接其他的 slave node ● slave node 做复制的时候不会 block master node 的正常工作 ● slave node 在做复制的时候也不会 block 对自己的查询操作它会用旧的数据集来提供服务但是复制完成的时候需要删除旧数据集加载新数据集这个时候就会暂停对外服务了 ● slave node 主要用来进行横向扩容做读写分离扩容的 slave node 可以提高读的吞吐量。 注意如果采用了主从架构那么建议必须开启 master node 的持久化不建议用 slave node 作为 master node 的数据热备因为那样的话如果你关掉 master 的持久化可能在 master 宕机重启的时候数据是空的然后可能一经过复制 slave node 的数据也丢了。 另外master 的各种备份方案也需要做。万一本地的所有文件丢失了从备份中挑选一份 rdb 去恢复 master这样才能确保启动的时候是有数据的即使采用了后续讲解的高可用机制slave node 可以自动接管 master node但也可能 sentinel 还没检测到 master failuremaster node 就自动重启了还是可能导致上面所有的 slave node 数据被清空。
redis 主从复制的核心原理
当启动一个 slave node 的时候它会发送一个 PSYNC 命令给 master node。 如果这是 slave node 初次连接到 master node那么会触发一次 full resynchronization 全量复制。此时 master 会启动一个后台线程开始生成一份 RDB 快照文件 同时还会将从客户端 client 新收到的所有写命令缓存在内存中。RDB 文件生成完毕后 master 会将这个 RDB 发送给 slaveslave 会先写入本地磁盘然后再从本地磁盘加载到内存中 接着 master 会将内存中缓存的写命令发送到 slaveslave 也会同步这些数据。 slave node 如果跟 master node 有网络故障断开了连接会自动重连连接之后 master node 仅会复制给 slave 部分缺少的数据。 redis-master-slave-replication
过程原理
当从库和主库建立MS关系后会向主数据库发送SYNC命令主库接收到SYNC命令后会开始在后台保存快照(RDB持久化过程)并将期间接收到的写命令缓存起来当快照完成后主Redis会将快照文件和所有缓存的写命令发送给从Redis从Redis接收到后会载入快照文件并且执行收到的缓存的命令之后主Redis每当接收到写命令时就会将命令发送从Redis从而保证数据的一致
缺点
所有的slave节点数据的复制和同步都由master节点来处理会照成master节点压力太大使用主从从结构来解决
Redis集群的主从复制模型是怎样的
为了使在部分节点失败或者大部分节点无法通信的情况下集群仍然可用所以集群使用了主从复制模型每个节点都会有N-1个复制品
生产环境中的 redis 是怎么部署的
redis cluster10 台机器5 台机器部署了 redis 主实例另外 5 台机器部署了 redis 的从实例每个主实例挂了一个从实例5 个节点对外提供读写服务每个节点的读写高峰qps可能可以达到每秒 5 万5 台机器最多是 25 万读写请求/s。 机器是什么配置32G 内存 8 核 CPU 1T 磁盘但是分配给 redis 进程的是10g内存一般线上生产环境redis 的内存尽量不要超过 10g超过 10g 可能会有问题。 5 台机器对外提供读写一共有 50g 内存。 因为每个主实例都挂了一个从实例所以是高可用的任何一个主实例宕机都会自动故障迁移redis 从实例会自动变成主实例继续提供读写服务。 你往内存里写的是什么数据每条数据的大小是多少商品数据每条数据是 10kb。100 条数据是 1mb10 万条数据是 1g。常驻内存的是 200 万条商品数据占用内存是 20g仅仅不到总内存的 50%。目前高峰期每秒就是 3500 左右的请求量。 其实大型的公司会有基础架构的 team 负责缓存集群的运维。
说说Redis哈希槽的概念
Redis集群没有使用一致性hash,而是引入了哈希槽的概念Redis集群有16384个哈希槽每个key通过CRC16校验后对16384取模来决定放置哪个槽集群的每个节点负责一部分hash槽。
Redis集群会有写操作丢失吗为什么
Redis并不能保证数据的强一致性这意味这在实际中集群在特定的条件下可能会丢失写操作。
Redis集群之间是如何复制的
异步复制
Redis集群最大节点个数是多少
16384个
Redis集群如何选择数据库
Redis集群目前无法做数据库选择默认在0数据库。
分区
Redis是单线程的如何提高多核CPU的利用率
可以在同一个服务器部署多个Redis的实例并把他们当作不同的服务器来使用在某些时候无论如何一个服务器是不够的 所以如果你想使用多个CPU你可以考虑一下分片shard。
为什么要做Redis分区
分区可以让Redis管理更大的内存Redis将可以使用所有机器的内存。如果没有分区你最多只能使用一台机器的内存。分区使Redis的计算能力通过简单地增加计算机得到成倍提升Redis的网络带宽也会随着计算机和网卡的增加而成倍增长。
你知道有哪些Redis分区实现方案
● 客户端分区就是在客户端就已经决定数据会被存储到哪个redis节点或者从哪个redis节点读取。大多数客户端已经实现了客户端分区。 ● 代理分区 意味着客户端将请求发送给代理然后代理决定去哪个节点写数据或者读数据。代理根据分区规则决定请求哪些Redis实例然后根据Redis的响应结果返回给客户端。redis和memcached的一种代理实现就是Twemproxy ● 查询路由(Query routing) 的意思是客户端随机地请求任意一个redis实例然后由Redis将请求转发给正确的Redis节点。Redis Cluster实现了一种混合形式的查询路由但并不是直接将请求从一个redis节点转发到另一个redis节点而是在客户端的帮助下直接redirected到正确的redis节点。
Redis分区有什么缺点
● 涉及多个key的操作通常不会被支持。例如你不能对两个集合求交集因为他们可能被存储到不同的Redis实例实际上这种情况也有办法但是不能直接使用交集指令。 ● 同时操作多个key,则不能使用Redis事务. ● 分区使用的粒度是key不能使用一个非常长的排序key存储一个数据集The partitioning granularity is the key, so it is not possible to shard a dataset with a single huge key like a very big sorted set ● 当使用分区的时候数据处理会非常复杂例如为了备份你必须从不同的Redis实例和主机同时收集RDB / AOF文件。 ● 分区时动态扩容或缩容可能非常复杂。Redis集群在运行时增加或者删除Redis节点能做到最大程度对用户透明地数据再平衡但其他一些客户端分区或者代理分区方法则不支持这种特性。然而有一种预分片的技术也可以较好的解决这个问题。 分布式问题 Redis实现分布式锁 Redis为单进程单线程模式采用队列模式将并发访问变成串行访问且多客户端对Redis的连接并不存在竞争关系Redis中可以使用SETNX命令实现分布式锁。 当且仅当 key 不存在将 key 的值设为 value。 若给定的 key 已经存在则 SETNX 不做任何动作 SETNX 是『SET if Not eXists』(如果不存在则 SET)的简写。 返回值设置成功返回 1 。设置失败返回 0 。 使用SETNX完成同步锁的流程及事项如下 使用SETNX命令获取锁若返回0key已存在锁已存在则获取失败反之获取成功 为了防止获取锁后程序出现异常导致其他线程/进程调用SETNX命令总是返回0而进入死锁状态需要为该key设置一个“合理”的过期时间 释放锁使用DEL命令将锁数据删除
如何解决 Redis 的并发竞争 Key 问题
所谓 Redis 的并发竞争 Key 的问题也就是多个系统同时对一个 key 进行操作但是最后执行的顺序和我们期望的顺序不同这样也就导致了结果的不同 推荐一种方案分布式锁zookeeper 和 redis 都可以实现分布式锁。如果不存在 Redis 的并发竞争 Key 问题不要使用分布式锁这样会影响性能 基于zookeeper临时有序节点可以实现的分布式锁。大致思想为每个客户端对某个方法加锁时在zookeeper上的与该方法对应的指定节点的目录下生成一个唯一的瞬时有序节点。 判断是否获取锁的方式很简单只需要判断有序节点中序号最小的一个。 当释放锁的时候只需将这个瞬时节点删除即可。同时其可以避免服务宕机导致的锁无法释放而产生的死锁问题。完成业务流程后删除对应的子节点释放锁。 在实践中当然是从以可靠性为主。所以首推Zookeeper。 参考https://www.jianshu.com/p/8bddd381de06
分布式Redis是前期做还是后期规模上来了再做好为什么
既然Redis是如此的轻量单实例只使用1M内存为防止以后的扩容最好的办法就是一开始就启动较多实例。即便你只有一台服务器你也可以一开始就让Redis以分布式的方式运行使用分区在同一台服务器上启动多个实例。 一开始就多设置几个Redis实例例如32或者64个实例对大多数用户来说这操作起来可能比较麻烦但是从长久来看做这点牺牲是值得的。 这样的话当你的数据不断增长需要更多的Redis服务器时你需要做的就是仅仅将Redis实例从一台服务迁移到另外一台服务器而已而不用考虑重新分区的问题。一旦你添加了另一台服务器你需要将你一半的Redis实例从第一台机器迁移到第二台机器。
什么是 RedLock
Redis 官方站提出了一种权威的基于 Redis 实现分布式锁的方式名叫 Redlock此种方式比原先的单节点的方法更安全。它可以保证以下特性
安全特性互斥访问即永远只有一个 client 能拿到锁避免死锁最终 client 都可能拿到锁不会出现死锁的情况即使原本锁住某资源的 client crash 了或者出现了网络分区容错性只要大部分 Redis 节点存活就可以正常提供服务
