Redis学习笔记

x33g5p2x  于2022-01-09 转载在 Redis  
字(29.2k)|赞(0)|评价(0)|浏览(577)

Redis

学习目标

Redis的介绍及安装

Redis是什么?

Redis 是一个开源(BSD许可)的,内存中的数据结构存储系统,它可以用作数据库、缓存和消息中间件。 它支持多种类型的数据结构,如 字符串(strings)散列(hashes)列表(lists)集合(sets)有序集合(sorted sets) 与范围查询, bitmaps, hyperloglogs 和 地理空间(geospatial) 索引半径查询。 Redis 内置了复制(replication),LUA脚本(Lua scripting),LRU驱动事件(LRU eviction),事务(transactions)和不同级别的 磁盘持久化(persistence), 并通过Redis哨兵(Sentinel) 和自动分区(Cluster)提供高可用性(high availability)

性能

下面是官方的bench-mark数据:

测试完成了50个并发执行100000个请求。

设置和获取的值是一个256字节字符串。

结果:读的速度是110000次/s,写的速度是81000次/s

Redis历史简介

2008年,意大利一家创业公司Merzia的创始人Salvatore Sanfilippo为了避免MySQL的低性能,亲自定做一个数据库,并于2009年开发完成,这个就是Redis。

从2010年3月15日起,Redis的开发工作由VMware主持。

从2013年5月开始,Redis的开发由Pivotal赞助。

​ 说明:Pivotal公司是由EMC和VMware联合成立的一家新公司**。**Pivotal希望为新一代的应用提供一个原生的基础,建立在具有领导力的云和网络公司不断转型的IT特性之上。Pivotal的使命是推行这些创新,提供给企业IT架构师和独立软件提供商。

支持语言

支持的数据类型

stringhashlistsetsorted set

安装

下载地址

http://redis.io/

上传至服务器

解压
  1. tar zxvf redis-5.0.3.tar.gz
安装依赖
  1. yum -y install gcc-c++ autoconf automake

预编译

切换到解压目录

  1. cd redis-5.0.3/
  2. make

安装

创建安装目录

  1. mkdir -p /usr/local/redis

不使用:make install(make install默认安装到/usr/local/bin目录下)

使用:如果需要指定安装路径,需要添加PREFIX参数

  1. make PREFIX=/usr/local/redis/ install

安装成功如图

Redis-cli:客户端

Redis-server:服务器端

启动

安装的默认目标路径:/usr/local/redis/bin

启动

  1. ./redis-server

默认为前台启动,修改为后台启动

复制redis.conf至安装路径下

  1. cp redis.conf /usr/local/redis/bin/

修改安装路径下的redis.conf,将daemonize修改为yes

启动时,指定配置文件路径即可

通过windows客户端访问

安装Redis客户端

建立连接->失败

修改配置文件redis.conf

注释掉bind 127.0.0.1可以使所有的ip访问redis,若是想指定多个ip访问,但并不是全部的ip访问,可以bind设置

关闭保护模式,修改为no

添加访问认证

修改后kill -9 XXXX杀死redis进程,重启redis

再次建立连接 -> 成功

我们可以修改默认数据库的数量 默认16

修改database 32则默认为32个数据库

修改后kill -9 XXXX杀死redis进程,重启redis即可看到效果

关系型数据库与非关系型数据库

关系型数据库

采用关系模型来组织数据的数据库,关系模型就是二维表格模型。一张二维表的表名就是关系,二维表中的一行就是一条记录,二维表中的一列就是一个字段。

优点

  • 容易理解
  • 使用方便,通用的sql语言
  • 易于维护,丰富的完整性(实体完整性、参照完整性和用户定义的完整性)大大降低了数据冗余和数据不一致的概率

缺点

  • 磁盘I/O是并发的瓶颈
  • 海量数据查询效率低
  • 横向扩展困难,无法简单的通过添加硬件和服务节点来扩展性能和负载能力,当需要对数据库进行升级和扩展时,需要停机维护和数据迁移
  • 多表的关联查询以及复杂的数据分析类型的复杂sql查询,性能欠佳。因为要保证acid,必须按照三范式设计。

数据库

Orcale,Sql Server,MySql,DB2

非关系型数据库

非关系型,分布式,一般不保证遵循ACID原则的数据存储系统。键值对存储,结构不固定。

优点

  • 根据需要添加字段,不需要多表联查。仅需id取出对应的value
  • 适用于SNS(社会化网络服务软件。比如facebook,微博)
  • 严格上讲不是一种数据库,而是一种数据结构化存储方法的集合

缺点

  • 只适合存储一些较为简单的数据
  • 不合适复杂查询的数据
  • 不合适持久存储海量数据

数据库

  • K-V:Redis,Memcache
  • 文档:MongoDB
  • 搜索:Elasticsearch,Solr
  • 可扩展性分布式:HBase

比较

内容关系型数据库非关系型数据库
成本有些需要收费(Orcale)基本都是开源
查询数据存储存于硬盘中,速度慢数据存于缓存中,速度快
存储格式只支持基础类型K-V,文档,图片等
扩展性有多表查询机制,扩展困难数据之间没有耦合,容易扩展
持久性适用持久存储,海量存储不适用持久存储,海量存储
数据一致性事务能力强,强调数据的强一致性事务能力弱,强调数据的最终一致性

Redis-cli操作Redis

Redis-cli连接Redis

-h:用于指定ip

-p:用于指定端口

-a:用于指定认证密码

PING命令返回PONG

指定database

Redis-cli操作Redis

操作String

set:添加一条String类型数据

get:获取一条String类型数据

mset:添加多条String类型数据

mget:获取多条String类型数据

操作hash

hset:添加一条hash类型数据

hget:获取一条hash类型数据

hmset:添加多条hash类型数据

hmget:获取多条hash类型数据

hgetAll:获取指定所有hash类型数据

hdel:删除指定hash类型数据(一条或多条)

操作list

lpush:左添加(头)list类型数据

rpush:右添加(尾)类型数据

lrange: 获取list类型数据start起始下标 end结束下标 包含关系

llen:获取条数

lrem:删除列表中几个指定list类型数据

操作set

sadd:添加set类型数据

smembers:获取set类型数据

scard:获取条数

srem:删除数据

操作sorted set

sorted set是通过分数值来进行排序的,分数值越大,越靠后。

zadd:添加sorted set类型数据

zrange:获取sorted set类型数据

zcard:获取条数

zrem:删除数据

zadd需要将Float或者Double类型分数值参数,放置在值参数之前

Redis中以层级关系、目录形式存储数据

设置key的失效时间

Redis 有四个不同的命令可以用于设置键的生存时间(键可以存在多久)或过期时间(键什么时候会被删除) :

EXPlRE <key> <ttl> :用于将键key的生存时间设置为ttl秒。

PEXPIRE <key> <ttl>:用于将键key的生存时间设置为ttl 毫秒。

EXPIREAT <key> < timestamp>:用于将键key的过期时间设置为timestamp所指定的秒数时间戳。

PEXPIREAT <key> < timestamp >:用于将键key的过期时间设置为timestamp所指定的毫秒数时间戳。

TTL:获取的值为-1说明此key没有设置有效期,当值为-2时证明过了有效期。

方法一

方法二

方法三

第一个参数:key

第二个参数:value

第三个参数:NX是不存在时才set,XX是存在时才set

第四个参数:EX是秒,PX是毫秒

删除

del:用于删除数据(通用,适用于所有数据类型)

hdel:用于删除hash类型数据

tips:命令为java中方法名,参数:去除括号,引号,将逗号变空格即可

zadd需要将Float或者Double类型参数,放置在值参数之前

Java操作Redis

创建项目

创建项目

添加依赖
  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
  3. <modelVersion>4.0.0</modelVersion>
  4. <parent>
  5. <groupId>org.springframework.boot</groupId>
  6. <artifactId>spring-boot-starter-parent</artifactId>
  7. <version>2.2.4.RELEASE</version>
  8. <relativePath/> <!-- lookup parent from repository -->
  9. </parent>
  10. <groupId>com.xxxx</groupId>
  11. <artifactId>redisdemo</artifactId>
  12. <version>0.0.1-SNAPSHOT</version>
  13. <name>redisdemo</name>
  14. <description>Demo project for Spring Boot</description>
  15. <properties>
  16. <java.version>1.8</java.version>
  17. </properties>
  18. <dependencies>
  19. <!-- spring data redis 组件 -->
  20. <dependency>
  21. <groupId>org.springframework.boot</groupId>
  22. <artifactId>spring-boot-starter-data-redis</artifactId>
  23. <!-- 1.x 的版本默认采用的连接池技术是 Jedis, 2.0 以上版本默认连接池是 Lettuce, 如果采用 Jedis,需要排除 Lettuce 的依赖。 -->
  24. <exclusions>
  25. <exclusion>
  26. <groupId>io.lettuce</groupId>
  27. <artifactId>lettuce-core</artifactId>
  28. </exclusion>
  29. </exclusions>
  30. </dependency>
  31. <!-- jedis 依赖 -->
  32. <dependency>
  33. <groupId>redis.clients</groupId>
  34. <artifactId>jedis</artifactId>
  35. </dependency>
  36. <!-- web 组件 -->
  37. <dependency>
  38. <groupId>org.springframework.boot</groupId>
  39. <artifactId>spring-boot-starter-web</artifactId>
  40. </dependency>
  41. <!-- test 组件 -->
  42. <dependency>
  43. <groupId>org.springframework.boot</groupId>
  44. <artifactId>spring-boot-starter-test</artifactId>
  45. <scope>test</scope>
  46. </dependency>
  47. </dependencies>
  48. </project>
配置文件
  1. spring:
  2. redis:
  3. # Redis服务器地址
  4. host: 192.168.10.100
  5. # Redis服务器端口
  6. port: 6379
  7. # Redis服务器密码
  8. password: root
  9. # 选择哪个库,默认0库
  10. database: 0
  11. # 连接超时时间
  12. timeout: 10000ms
  13. jedis:
  14. pool:
  15. # 最大连接数,默认8
  16. max-active: 1024
  17. # 最大连接阻塞等待时间,单位毫秒,默认-1ms
  18. max-wait: 10000ms
  19. # 最大空闲连接,默认8
  20. max-idle: 200
  21. # 最小空闲连接,默认0
  22. min-idle: 5

Java怎么连接Redis?

  1. /** * 连接Redis */
  2. @Test
  3. public void initConn01() {
  4. // 创建jedis对象,连接redis服务
  5. Jedis jedis = new Jedis("192.168.10.100", 6379);
  6. // 设置认证密码
  7. jedis.auth("root");
  8. // 指定数据库 默认是0
  9. jedis.select(1);
  10. // 使用ping命令,测试连接是否成功
  11. String result = jedis.ping();
  12. System.out.println(result);// 返回PONG
  13. // 添加一条数据
  14. jedis.set("username", "zhangsan");
  15. // 获取一条数据
  16. String username = jedis.get("username");
  17. System.out.println(username);
  18. // 释放资源
  19. if (jedis != null)
  20. jedis.close();
  21. }

通过Redis连接池获取连接对象并操作服务器

  1. /** * 通过Redis连接池获取连接对象 */
  2. @Test
  3. public void initConn02() {
  4. // 初始化redis客户端连接池
  5. JedisPool jedisPool = new JedisPool(new JedisPoolConfig(), "192.168.10.100", 6379, 10000, "root");
  6. // 从连接池获取连接
  7. Jedis jedis = jedisPool.getResource();
  8. // 指定数据库 默认是0
  9. jedis.select(2);
  10. // 使用ping命令,测试连接是否成功
  11. String result = jedis.ping();
  12. System.out.println(result);// 返回PONG
  13. // 添加一条数据
  14. jedis.set("username", "zhangsan");
  15. // 获取一条数据
  16. String username = jedis.get("username");
  17. System.out.println(username);
  18. // 释放资源
  19. if (jedis != null)
  20. jedis.close();
  21. }

封装JedisUtil对外提供连接对象获取方法

  1. @Configuration
  2. public class RedisConfig {
  3. //服务器地址
  4. @Value("${spring.redis.host}")
  5. private String host;
  6. //端口
  7. @Value("${spring.redis.port}")
  8. private int port;
  9. //密码
  10. @Value("${spring.redis.password}")
  11. private String password;
  12. //超时时间
  13. @Value("${spring.redis.timeout}")
  14. private String timeout;
  15. //最大连接数
  16. @Value("${spring.redis.jedis.pool.max-active}")
  17. private int maxTotal;
  18. //最大连接阻塞等待时间
  19. @Value("${spring.redis.jedis.pool.max-wait}")
  20. private String maxWaitMillis;
  21. //最大空闲连接
  22. @Value("${spring.redis.jedis.pool.max-idle}")
  23. private int maxIdle;
  24. //最小空闲连接
  25. @Value("${spring.redis.jedis.pool.min-idle}")
  26. private int minIdle;
  27. @Bean
  28. public JedisPool redisPoolFactory(){
  29. JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
  30. //注意值的转变
  31. jedisPoolConfig.setMaxWaitMillis(Long.parseLong(maxWaitMillis.substring(0,maxWaitMillis.length()-2)));
  32. //注意属性名
  33. jedisPoolConfig.setMaxTotal(maxTotal);
  34. jedisPoolConfig.setMaxIdle(maxIdle);
  35. jedisPoolConfig.setMinIdle(minIdle);
  36. JedisPool jedisPool = new JedisPool(jedisPoolConfig, host, port, Integer.parseInt(timeout.substring(0,
  37. timeout.length() - 2)), password);
  38. return jedisPool;
  39. }
  40. }

Java操作Redis五种数据类型

连接与释放
  1. @Autowired
  2. private JedisPool jedisPool;
  3. private Jedis jedis = null;
  4. //初始化jedis对象实例
  5. @Before
  6. public void initConn(){
  7. jedis = jedisPool.getResource();
  8. }
  9. //释放资源
  10. @After
  11. public void closeConn(){
  12. if (jedis!=null){
  13. jedis.close();
  14. }
  15. }
操作String
  1. // 1.操作String
  2. @Test
  3. public void testString() {
  4. // 添加一条数据
  5. jedis.set("username", "zhangsan");
  6. jedis.set("age", "18");
  7. // 添加多条数据 参数奇数为key 参数偶数为value
  8. jedis.mset("address", "bj", "sex", "1");
  9. // 获取一条数据
  10. String username = jedis.get("username");
  11. System.out.println(username);
  12. // 获取多条数据
  13. List<String> list = jedis.mget("username", "age", "address", "sex");
  14. for (String str : list) {
  15. System.out.println(str);
  16. }
  17. // 删除
  18. //jedis.del("username");
  19. }
操作hash
  1. // 2.操作Hash
  2. @Test
  3. public void testHash() {
  4. /* * 添加一条数据 * 参数一:redis的key * 参数二:hash的key * 参数三:hash的value */
  5. jedis.hset("userInfo", "name", "lisi");
  6. // 添加多条数据
  7. Map<String, String> map = new HashMap<>();
  8. map.put("age", "20");
  9. map.put("sex", "1");
  10. jedis.hmset("userInfo", map);
  11. // 获取一条数据
  12. String name = jedis.hget("userInfo", "name");
  13. System.out.println(name);
  14. // 获取多条数据
  15. List<String> list = jedis.hmget("userInfo", "age", "sex");
  16. for (String str : list) {
  17. System.out.println(str);
  18. }
  19. // 获取Hash类型所有的数据
  20. Map<String, String> userMap = jedis.hgetAll("userInfo");
  21. for (Entry<String, String> userInfo : userMap.entrySet()) {
  22. System.out.println(userInfo.getKey() + "--" + userInfo.getValue());
  23. }
  24. // 删除 用于删除hash类型数据
  25. //jedis.hdel("userInfo", "name");
  26. }
操作list
  1. // 3.操作list
  2. @Test
  3. public void testList() {
  4. // 左添加(上)
  5. // jedis.lpush("students", "Wang Wu", "Li Si");
  6. // 右添加(下)
  7. // jedis.rpush("students", "Zhao Liu");
  8. // 获取 start起始下标 end结束下标 包含关系
  9. List<String> students = jedis.lrange("students", 0, 2);
  10. for (String stu : students) {
  11. System.out.println(stu);
  12. }
  13. // 获取总条数
  14. Long total = jedis.llen("students");
  15. System.out.println("总条数:" + total);
  16. // 删除单条 删除列表中第一次出现的Li Si
  17. // jedis.lrem("students", 1, "Li Si");
  18. // 删除多条
  19. // jedis.del("students");
  20. }
操作set
  1. // 4.操作set-无序
  2. @Test
  3. public void testSet() {
  4. // 添加数据
  5. jedis.sadd("letters", "aaa", "bbb", "ccc", "ddd", "eee");
  6. // 获取数据
  7. Set<String> letters = jedis.smembers("letters");
  8. for (String letter: letters) {
  9. System.out.println(letter);
  10. }
  11. //获取总条数
  12. Long total = jedis.scard("letters");
  13. System.out.println(total);
  14. // 删除
  15. //jedis.srem("letters", "aaa", "bbb");
  16. }
操作sorted set
  1. // 5.操作sorted set-有序
  2. @Test
  3. public void testSortedSet() {
  4. Map<String, Double> scoreMembers = new HashMap<>();
  5. scoreMembers.put("zhangsan", 7D);
  6. scoreMembers.put("lisi", 3D);
  7. scoreMembers.put("wangwu", 5D);
  8. scoreMembers.put("zhaoliu", 6D);
  9. scoreMembers.put("tianqi", 2D);
  10. // 添加数据
  11. jedis.zadd("score", scoreMembers);
  12. // 获取数据
  13. Set<String> scores = jedis.zrange("score", 0, 4);
  14. for (String score: scores) {
  15. System.out.println(score);
  16. }
  17. // 获取总条数
  18. Long total = jedis.zcard("score");
  19. System.out.println("总条数:" + total);
  20. // 删除
  21. //jedis.zrem("score", "zhangsan", "lisi");
  22. }
Redis中以层级关系、目录形式存储数据
  1. // Redis中以层级关系、目录形式存储数据
  2. @Test
  3. public void testdir(){
  4. jedis.set("user:01", "user_zhangsan");
  5. System.out.println(jedis.get("user:01"));
  6. }
设置key的失效时间

Redis 有四个不同的命令可以用于设置键的生存时间(键可以存在多久)或过期时间(键什么时候会被删除) :

EXPlRE <key> <ttl> :用于将键key的生存时间设置为ttl秒。

PEXPIRE <key> <ttl>:用于将键key的生存时间设置为ttl 毫秒。

EXPIREAT <key> < timestamp>:用于将键key的过期时间设置为timestamp所指定的秒数时间戳。

PEXPIREAT <key> < timestamp >:用于将键key的过期时间设置为timestamp所指定的毫秒数时间戳。

TTL:获取的值为-1说明此key没有设置有效期,当值为-2时证明过了有效期。

  1. @Test
  2. public void testExpire() {
  3. // 方法一:
  4. jedis.set("code", "test");
  5. jedis.expire("code", 180);// 180秒
  6. jedis.pexpire("code", 180000L);// 180000毫秒
  7. jedis.ttl("code");// 获取秒
  8. // 方法二:
  9. jedis.setex("code", 180, "test");// 180秒
  10. jedis.psetex("code", 180000L, "test");// 180000毫秒
  11. jedis.pttl("code");// 获取毫秒
  12. // 方法三:
  13. SetParams setParams = new SetParams();
  14. //不存在的时候才能设置成功
  15. // setParams.nx();
  16. // 存在的时候才能设置成功
  17. setParams.xx();
  18. //设置失效时间,单位秒
  19. // setParams.ex(30);
  20. //查看失效时间,单位毫秒
  21. setParams.px(30000);
  22. jedis.set("code","test",setParams);
  23. }
获取所有key&事务&删除
  1. // 获取所有key
  2. @Test
  3. public void testAllKeys() {
  4. // 当前库key的数量
  5. System.out.println(jedis.dbSize());
  6. // 当前库key的名称
  7. Set<String> keys = jedis.keys("*");
  8. for (String key: keys) {
  9. System.out.println(key);
  10. }
  11. }
  12. // 操作事务
  13. @Test
  14. public void testMulti() {
  15. Transaction tx = jedis.multi();
  16. // 开启事务
  17. tx.set("tel", "10010");
  18. // 提交事务
  19. // tx.exec();
  20. // 回滚事务
  21. tx.discard();
  22. }
  23. // 删除
  24. @Test
  25. public void testDelete() {
  26. // 删除 通用 适用于所有数据类型
  27. jedis.del("score");
  28. }
操作byte

SerializeUtil.java

  1. package com.xxxx.util;
  2. import java.io.ByteArrayInputStream;
  3. import java.io.ByteArrayOutputStream;
  4. import java.io.ObjectInputStream;
  5. import java.io.ObjectOutputStream;
  6. /** * 序列化工具类 */
  7. public class SerializeUtil {
  8. /** * 将java对象转换为byte数组 序列化过程 */
  9. public static byte[] serialize(Object object) {
  10. ObjectOutputStream oos = null;
  11. ByteArrayOutputStream baos = null;
  12. try {
  13. // 序列化
  14. baos = new ByteArrayOutputStream();
  15. oos = new ObjectOutputStream(baos);
  16. oos.writeObject(object);
  17. byte[] bytes = baos.toByteArray();
  18. return bytes;
  19. } catch (Exception e) {
  20. e.printStackTrace();
  21. }
  22. return null;
  23. }
  24. /** * 将byte数组转换为java对象 反序列化 */
  25. public static Object unserialize(byte[] bytes) {
  26. if(bytes == null)return null;
  27. ByteArrayInputStream bais = null;
  28. try {
  29. // 反序列化
  30. bais = new ByteArrayInputStream(bytes);
  31. ObjectInputStream ois = new ObjectInputStream(bais);
  32. return ois.readObject();
  33. } catch (Exception e) {
  34. e.printStackTrace();
  35. }
  36. return null;
  37. }
  38. }

User.java

  1. package com.xxxx.entity;
  2. import java.io.Serializable;
  3. public class User implements Serializable {
  4. private static final long serialVersionUID = 9148937431079191022L;
  5. private Integer id;
  6. private String username;
  7. private String password;
  8. public Integer getId() {
  9. return id;
  10. }
  11. public void setId(Integer id) {
  12. this.id = id;
  13. }
  14. public String getUsername() {
  15. return username;
  16. }
  17. public void setUsername(String username) {
  18. this.username = username;
  19. }
  20. public String getPassword() {
  21. return password;
  22. }
  23. public void setPassword(String password) {
  24. this.password = password;
  25. }
  26. @Override
  27. public String toString() {
  28. return "User{" +
  29. "id=" + id +
  30. ", username='" + username + '\'' +
  31. ", password='" + password + '\'' +
  32. '}';
  33. }
  34. }

JedisTest.java

  1. // 操作byte
  2. @Test
  3. public void testByte() {
  4. User user = new User();
  5. user.setId(2);
  6. user.setUsername("zhangsan");
  7. user.setPassword("123");
  8. // 序列化
  9. byte[] userKey = SerializeUtil.serialize("user:" + user.getId());
  10. byte[] userValue = SerializeUtil.serialize(user);
  11. jedis.set(userKey, userValue);
  12. // 获取数据
  13. byte[] userResult = jedis.get(userKey);
  14. // 反序列化
  15. User u = (User) SerializeUtil.unserialize(userResult);
  16. System.out.println(u);
  17. }

Redis搭建主从复用

Redis支持主从复用。数据可以从主服务器向任意数量的从服务器上同步,同步使用的是发布/订阅机制。Mater Slave的模式,从Slave向Master发起SYNC命令。

可以是1 Master 多Slave,可以分层,Slave下可以再接Slave,可扩展成树状结构。

因为没有两台电脑,所以只能在一台机器上搭建两个Redis服务端。

这里使用单机来模拟redis 主从服务器 ,实现读写分离配置。

读写分离

创建三个目录(数据文件、日志文件、配置文件)

复制redis.conf至/opt/redis/conf目录下

修改redis-common.conf公共配置文件

注释掉bind 127.0.0.1

关闭保护模式,修改为no

注释公共配置端口

修改为后台启动

注释进程编号记录文件

注释公共配置日志文件

注释公共配置数据文件、修改数据文件路径

在默认情况下,Redis 将数据库快照保存在名字为 dump.rdb 的二进制文件中。当然,这里可以通过修改redis.conf 配置文件来对数据存储条件进行定义,规定在“ N 秒内数据集至少有 M 个改动”这一条件被满足时,自动保存一次数据集。也可以通过调用save 或bgsave ,手动让Redis进行数据集保存操作

dbfilename和dir组合使用,dbfilename找dir路径生成数据文件

添加从服务器访问主服务器认证

添加访问认证

注释公共配置追加文件

根据需求配置是否打开追加文件选项

appendonly yes -> 每当Redis执行一个改变数据集的命令时(比如 SET),这个命令就会被追加到 AOF 文件的末尾。这样的话,当Redis重新启时,程序就可以通过重新执行 AOF文件中的命令来达到重建数据集的目的

appendfilename和dir组合使用,找dir(/opt/redis/data)路径生成数据文件

从服务器默认是只读不允许写操作(不用修改)

添加3个服务的私有配置文件

touch或者vi都可以创建空白文件

touch直接创建空白文件,vi创建并且进入编辑模式,:wq创建成功,否则不创建

redis-6379.conf

  1. #引用公共配置
  2. include /opt/redis/conf/redis-common.conf
  3. #进程编号记录文件
  4. pidfile /var/run/redis-6379.pid
  5. #进程端口号
  6. port 6379
  7. #日志记录文件
  8. logfile "/opt/redis/log/redis-6379.log"
  9. #数据记录文件
  10. dbfilename dump-6379.rdb
  11. #追加文件名称
  12. appendfilename "appendonly-6379.aof"
  13. #下面的配置无需在6379里配置
  14. #备份服务器从属于6379推荐配置配局域网IP
  15. slaveof 192.168.10.100 6379

复制redis-6379.conf的内容至redis-6380.conf,redis-6381.conf并且修改其内容,将6379替换即可。

运行3个redis进程

查看redis服务器主从状态

redis-6379

redis-6380

redis-6381

在主服务器下添加数据 并测试从服务器数据是否正常显示

从服务器只读,不允许写操作

主备切换

主从节点redis.conf配置

参照读写分离的相应配置

修改sentinel-common.conf 哨兵公共配置文件

从redis解压目录下复制sentinel.conf至/opt/redis/conf/

  1. cp sentinel.conf /opt/redis/conf/sentinel-common.conf

注释哨兵监听进程端口号

指示Sentinel去监视一个名为master的主服务器,这个主服务器的IP地址为 127.0.0.1,端口号为6379,而将这个主服务器判断为失效至少需要1个(一般设置为2个)。Sentinel同意 (只要同意Sentinel的数量不达标,自动故障迁移就不会执行)。

这个要配局域网IP,否则远程连不上。

设置master和slaves的密码

Sentinel认为服务器已经断线所需的毫秒数

sentinel在该配置值内未能完成failover操作(即故障时master/slave自动切换),则认为本次failover失败。

关闭保护模式,修改为no

修改为后台启动

添加3个哨兵的私有配置文件

touch或者vi都可以创建空白文件

touch直接创建空白文件,vi创建并且进入编辑模式,:wq创建成功,否则不创建

sentinel-26379.conf

  1. #引用公共配置
  2. include /opt/redis/conf/sentinel-common.conf
  3. #进程端口号
  4. port 26379
  5. #进程编号记录文件
  6. pidfile /var/run/sentinel-26379.pid
  7. #日志记录文件(为了方便查看日志,先注释掉,搭好环境后再打开)
  8. logfile "/opt/redis/log/sentinel-26379.log"

复制sentinel-26379.conf的内容至sentinel-26380.conf ,sentinel-26381.conf并且修改其内容,将26379替换即可。

启动测试

启动3个redis服务

  1. /usr/local/redis/bin/redis-server /opt/redis/conf/redis-6379.conf
  2. /usr/local/redis/bin/redis-server /opt/redis/conf/redis-6380.conf
  3. /usr/local/redis/bin/redis-server /opt/redis/conf/redis-6381.conf

启动3个哨兵服务

  1. /usr/local/redis/bin/redis-sentinel /opt/redis/conf/sentinel-26379.conf
  2. /usr/local/redis/bin/redis-sentinel /opt/redis/conf/sentinel-26380.conf
  3. /usr/local/redis/bin/redis-sentinel /opt/redis/conf/sentinel-26381.conf

查看主从状态

redis-6379

redis-6380

redis-6381

检测哨兵功能是否配置成功

kill -9 终止redis-6379,查看哨兵是否选举了新的主节点

已选举6380为主节点,从节点目前只有6381

重新启动6379节点,再次查看主从状态

发现6379已被发现且成为从节点

6380之前不可以写操作,现在可以写操作,因为已成为主节点。

最后,公共配置文件修改为后台启动,私有配置文件打开日志记录文件,环境搭建成功。

SpringDataRedis

创建项目

添加依赖

  1. <dependencies>
  2. <!-- spring data redis 组件 -->
  3. <dependency>
  4. <groupId>org.springframework.boot</groupId>
  5. <artifactId>spring-boot-starter-data-redis</artifactId>
  6. </dependency>
  7. <!-- commons-pool2 对象池依赖 -->
  8. <dependency>
  9. <groupId>org.apache.commons</groupId>
  10. <artifactId>commons-pool2</artifactId>
  11. </dependency>
  12. <!-- web 组件 -->
  13. <dependency>
  14. <groupId>org.springframework.boot</groupId>
  15. <artifactId>spring-boot-starter-web</artifactId>
  16. </dependency>
  17. <!-- test 组件 -->
  18. <dependency>
  19. <groupId>org.springframework.boot</groupId>
  20. <artifactId>spring-boot-starter-test</artifactId>
  21. <scope>test</scope>
  22. </dependency>
  23. </dependencies>

添加application.yml配置文件

  1. spring:
  2. redis:
  3. # Redis服务器地址
  4. host: 192.168.10.100
  5. # Redis服务器端口
  6. port: 6379
  7. # Redis服务器端口
  8. password: root
  9. # Redis服务器端口
  10. database: 0
  11. # 连接超时时间
  12. timeout: 10000ms
  13. lettuce:
  14. pool:
  15. # 最大连接数,默认8
  16. max-active: 1024
  17. # 最大连接阻塞等待时间,单位毫秒,默认-1ms
  18. max-wait: 10000ms
  19. # 最大空闲连接,默认8
  20. max-idle: 200
  21. # 最小空闲连接,默认0
  22. min-idle: 5

Lettuce和Jedis的区别

Jedis是一个优秀的基于 Java 语言的 Redis 客户端,但是,其不足也很明显:Jedis在实现上是直接连接 Redis-Server,在多个线程间共享一个 Jedis实例时是线程不安全的,如果想要在多线程场景下使用 Jedis,需要使用连接池,每个线程都使用自己的 Jedis实例,当连接数量增多时,会消耗较多的物理资源。

Lettuce则完全克服了其线程不安全的缺点:Lettuce是基于 Netty的连接(StatefulRedisConnection),

Lettuce是一个可伸缩的线程安全的 Redis 客户端,支持同步、异步和响应式模式。多个线程可以共享一个连接实例,而不必担心多线程并发问题。它基于优秀 Netty NIO 框架构建,支持 Redis 的高级功能,如 Sentinel,集群,流水线,自动重新连接和 Redis 数据模型。

测试环境测试环境是否搭建成功

  1. @RunWith(SpringRunner.class)
  2. @SpringBootTest(classes = SpringDataRedisApplication.class)
  3. public class SpringDataRedisApplicationTests {
  4. @Autowired
  5. private RedisTemplate redisTemplate;
  6. @Autowired
  7. private StringRedisTemplate stringRedisTemplate;
  8. @Test
  9. public void initconn() {
  10. ValueOperations<String, String> ops = stringRedisTemplate.opsForValue();
  11. ops.set("username","lisi");
  12. ValueOperations<String, String> value = redisTemplate.opsForValue();
  13. value.set("name","wangwu");
  14. System.out.println(ops.get("name"));
  15. }
  16. }

自定义模板解决序列化问题

默认情况下的模板 RedisTemplate<Object, Object>,默认序列化使用的是JdkSerializationRedisSerializer,存储二进制字节码。这时需要自定义模板,当自定义模板后又想存储 String 字符串时,可以使StringRedisTemplate的方式,他们俩并不冲突。

序列化问题:

​ 要把 domain object 做为 key-value 对保存在 redis 中,就必须要解决对象的序列化问题。Spring Data Redis给我们提供了一些现成的方案:

JdkSerializationRedisSerializer使用JDK提供的序列化功能。 优点是反序列化时不需要提供类型信息(class),但缺点是序列化后的结果非常庞大,是JSON格式的5倍左右,这样就会消耗 Redis 服务器的大量内存。

Jackson2JsonRedisSerializer使用 Jackson 库将对象序列化为JSON字符串。优点是速度快,序列化后的字符串短小精悍。但缺点也非常致命,那就是此类的构造函数中有一个类型参数,必须提供要序列化对象的类型信息(.class对象)。通过查看源代码,发现其只在反序列化过程中用到了类型信息。

GenericJackson2JsonRedisSerializer通用型序列化,这种序列化方式不用自己手动指定对象的 Class。

  1. @Configuration
  2. public class RedisConfig {
  3. @Bean
  4. public RedisTemplate<String,Object> redisTemplate(LettuceConnectionFactory redisConnectionFactory){
  5. RedisTemplate<String,Object> redisTemplate = new RedisTemplate<>();
  6. //为string类型key设置序列器
  7. redisTemplate.setKeySerializer(new StringRedisSerializer());
  8. //为string类型value设置序列器
  9. redisTemplate.setValueSerializer(new GenericJackson2JsonRedisSerializer());
  10. //为hash类型key设置序列器
  11. redisTemplate.setHashKeySerializer(new StringRedisSerializer());
  12. //为hash类型value设置序列器
  13. redisTemplate.setHashValueSerializer(new GenericJackson2JsonRedisSerializer());
  14. redisTemplate.setConnectionFactory(redisConnectionFactory);
  15. return redisTemplate;
  16. }
  17. }
  1. //序列化
  2. @Test
  3. public void testSerial(){
  4. User user = new User();
  5. user.setId(1);
  6. user.setUsername("张三");
  7. user.setPassword("111");
  8. ValueOperations<String, Object> value = redisTemplate.opsForValue();
  9. value.set("userInfo",user);
  10. System.out.println(value.get("userInfo"));
  11. }

操作string

  1. // 1.操作String
  2. @Test
  3. public void testString() {
  4. ValueOperations<String, Object> valueOperations = redisTemplate.opsForValue();
  5. // 添加一条数据
  6. valueOperations.set("username", "zhangsan");
  7. valueOperations.set("age", "18");
  8. // redis中以层级关系、目录形式存储数据
  9. valueOperations.set("user:01", "lisi");
  10. valueOperations.set("user:02", "wangwu");
  11. // 添加多条数据
  12. Map<String, String> userMap = new HashMap<>();
  13. userMap.put("address", "bj");
  14. userMap.put("sex", "1");
  15. valueOperations.multiSet(userMap);
  16. // 获取一条数据
  17. Object username = valueOperations.get("username");
  18. System.out.println(username);
  19. // 获取多条数据
  20. List<String> keys = new ArrayList<>();
  21. keys.add("username");
  22. keys.add("age");
  23. keys.add("address");
  24. keys.add("sex");
  25. List<Object> resultList = valueOperations.multiGet(keys);
  26. for (Object str : resultList) {
  27. System.out.println(str);
  28. }
  29. // 删除
  30. redisTemplate.delete("username");
  31. }

操作hash

  1. // 2.操作Hash
  2. @Test
  3. public void testHash() {
  4. HashOperations<String, String, String> hashOperations = redisTemplate.opsForHash();
  5. /* * 添加一条数据 * 参数一:redis的key * 参数二:hash的key * 参数三:hash的value */
  6. hashOperations.put("userInfo","name","lisi");
  7. // 添加多条数据
  8. Map<String, String> map = new HashMap();
  9. map.put("age", "20");
  10. map.put("sex", "1");
  11. hashOperations.putAll("userInfo", map);
  12. // 获取一条数据
  13. String name = hashOperations.get("userInfo", "name");
  14. System.out.println(name);
  15. // 获取多条数据
  16. List<String> keys = new ArrayList<>();
  17. keys.add("age");
  18. keys.add("sex");
  19. List<String> resultlist =hashOperations.multiGet("userInfo", keys);
  20. for (String str : resultlist) {
  21. System.out.println(str);
  22. }
  23. // 获取Hash类型所有的数据
  24. Map<String, String> userMap = hashOperations.entries("userInfo");
  25. for (Entry<String, String> userInfo : userMap.entrySet()) {
  26. System.out.println(userInfo.getKey() + "--" + userInfo.getValue());
  27. }
  28. // 删除 用于删除hash类型数据
  29. hashOperations.delete("userInfo", "name");
  30. }

操作list

  1. // 3.操作list
  2. @Test
  3. public void testList() {
  4. ListOperations<String, Object> listOperations = redisTemplate.opsForList();
  5. // 左添加(上)
  6. // listOperations.leftPush("students", "Wang Wu");
  7. // listOperations.leftPush("students", "Li Si");
  8. // 左添加(上) 把value值放到key对应列表中pivot值的左面,如果pivot值存在的话
  9. //listOperations.leftPush("students", "Wang Wu", "Li Si");
  10. // 右添加(下)
  11. // listOperations.rightPush("students", "Zhao Liu");
  12. // 获取 start起始下标 end结束下标 包含关系
  13. List<Object> students = listOperations.range("students", 0,2);
  14. for (Object stu : students) {
  15. System.out.println(stu);
  16. }
  17. // 根据下标获取
  18. Object stu = listOperations.index("students", 1);
  19. System.out.println(stu);
  20. // 获取总条数
  21. Long total = listOperations.size("students");
  22. System.out.println("总条数:" + total);
  23. // 删除单条 删除列表中存储的列表中几个出现的Li Si。
  24. listOperations.remove("students", 1, "Li Si");
  25. // 删除多条
  26. redisTemplate.delete("students");
  27. }

操作set

  1. // 4.操作set-无序
  2. @Test
  3. public void testSet() {
  4. SetOperations<String, Object> setOperations = redisTemplate.opsForSet();
  5. // 添加数据
  6. String[] letters = new String[]{"aaa", "bbb", "ccc", "ddd", "eee"};
  7. //setOperations.add("letters", "aaa", "bbb", "ccc", "ddd", "eee");
  8. setOperations.add("letters", letters);
  9. // 获取数据
  10. Set<Object> let = setOperations.members("letters");
  11. for (Object letter: let) {
  12. System.out.println(letter);
  13. }
  14. // 删除
  15. setOperations.remove("letters", "aaa", "bbb");
  16. }

操作sorted set

  1. // 5.操作sorted set-有序
  2. @Test
  3. public void testSortedSet() {
  4. ZSetOperations<String, Object> zSetOperations = redisTemplate.opsForZSet();
  5. ZSetOperations.TypedTuple<Object> objectTypedTuple1 =
  6. new DefaultTypedTuple<Object>("zhangsan", 7D);
  7. ZSetOperations.TypedTuple<Object> objectTypedTuple2 =
  8. new DefaultTypedTuple<Object>("lisi", 3D);
  9. ZSetOperations.TypedTuple<Object> objectTypedTuple3 =
  10. new DefaultTypedTuple<Object>("wangwu", 5D);
  11. ZSetOperations.TypedTuple<Object> objectTypedTuple4 =
  12. new DefaultTypedTuple<Object>("zhaoliu", 6D);
  13. ZSetOperations.TypedTuple<Object> objectTypedTuple5 =
  14. new DefaultTypedTuple<Object>("tianqi", 2D);
  15. Set<ZSetOperations.TypedTuple<Object>> tuples = new HashSet<ZSetOperations.TypedTuple<Object>>();
  16. tuples.add(objectTypedTuple1);
  17. tuples.add(objectTypedTuple2);
  18. tuples.add(objectTypedTuple3);
  19. tuples.add(objectTypedTuple4);
  20. tuples.add(objectTypedTuple5);
  21. // 添加数据
  22. zSetOperations.add("score", tuples);
  23. // 获取数据
  24. Set<Object> scores = zSetOperations.range("score", 0, 4);
  25. for (Object score: scores) {
  26. System.out.println(score);
  27. }
  28. // 获取总条数
  29. Long total = zSetOperations.size("score");
  30. System.out.println("总条数:" + total);
  31. // 删除
  32. zSetOperations.remove("score", "zhangsan", "lisi");
  33. }

获取所有key&删除

  1. // 获取所有key
  2. @Test
  3. public void testAllKeys() {
  4. // 当前库key的名称
  5. Set<String> keys = redisTemplate.keys("*");
  6. for (String key: keys) {
  7. System.out.println(key);
  8. }
  9. }
  10. // 删除
  11. @Test
  12. public void testDelete() {
  13. // 删除 通用 适用于所有数据类型
  14. redisTemplate.delete("score");
  15. }

设置key的失效时间

  1. @Test
  2. public void testEx() {
  3. ValueOperations<String, Object> valueOperations = redisTemplate.opsForValue();
  4. // 方法一:插入一条数据并设置失效时间
  5. valueOperations.set("code", "abcd", 180, TimeUnit.SECONDS);
  6. // 方法二:给已存在的key设置失效时间
  7. boolean flag = redisTemplate.expire("code", 180, TimeUnit.SECONDS);
  8. // 获取指定key的失效时间
  9. Long l = redisTemplate.getExpire("code");
  10. }

SpringDataRedis整合使用哨兵机制

application.yml

  1. spring:
  2. redis:
  3. # Redis服务器地址
  4. host: 192.168.10.100
  5. # Redis服务器端口
  6. port: 6379
  7. # Redis服务器端口
  8. password: root
  9. # Redis服务器端口
  10. database: 0
  11. # 连接超时时间
  12. timeout: 10000ms
  13. lettuce:
  14. pool:
  15. # 最大连接数,默认8
  16. max-active: 1024
  17. # 最大连接阻塞等待时间,单位毫秒,默认-1ms
  18. max-wait: 10000ms
  19. # 最大空闲连接,默认8
  20. max-idle: 200
  21. # 最小空闲连接,默认0
  22. min-idle: 5
  23. #哨兵模式
  24. sentinel:
  25. #主节点名称
  26. master: mymaster
  27. #节点
  28. nodes: 192.168.10.100:26379,192.168.10.100:26380,192.168.10.100:26381

Bean注解配置

  1. @Bean
  2. public RedisSentinelConfiguration redisSentinelConfiguration(){
  3. RedisSentinelConfiguration sentinelConfig = new RedisSentinelConfiguration()
  4. // 主节点名称
  5. .master("mymaster")
  6. // 主从服务器地址
  7. .sentinel("192.168.10.100", 26379)
  8. .sentinel("192.168.10.100", 26380)
  9. .sentinel("192.168.10.100", 26381);
  10. // 设置密码
  11. sentinelConfig.setPassword("root");
  12. return sentinelConfig;
  13. }

如何应对缓存穿透、缓存击穿、缓存雪崩问题

Key的过期淘汰机制

Redis可以对存储在Redis中的缓存数据设置过期时间,比如我们获取的短信验证码一般十分钟过期,我们这时候就需要在验证码存进Redis时添加一个key的过期时间,但是这里有一个需要格外注意的问题就是:并非key过期时间到了就一定会被Redis给删除。

定期删除

Redis 默认是每隔 100ms 就随机抽取一些设置了过期时间的 Key,检查其是否过期,如果过期就删除。为什么是随机抽取而不是检查所有key?因为你如果设置的key成千上万,每100毫秒都将所有存在的key检查一遍,会给CPU带来比较大的压力。

惰性删除

定期删除由于是随机抽取可能会导致很多过期 Key 到了过期时间并没有被删除。所以用户在从缓存获取数据的时候,redis会检查这个key是否过期了,如果过期就删除这个key。这时候就会在查询的时候将过期key从缓存中清除。

内存淘汰机制

仅仅使用定期删除 + 惰性删除机制还是会留下一个严重的隐患:如果定期删除留下了很多已经过期的key,而且用户长时间都没有使用过这些过期key,导致过期key无法被惰性删除,从而导致过期key一直堆积在内存里,最终造成Redis内存块被消耗殆尽。那这个问题如何解决呢?这个时候Redis内存淘汰机制应运而生了。Redis内存淘汰机制提供了6种数据淘汰策略:

  • volatile-lru:从已设置过期时间的数据集中挑选最近最少使用的数据淘汰。
  • volatile-ttl:从已设置过期时间的数据集中挑选将要过期的数据淘汰。
  • volatile-random:从已设置过期时间的数据集中任意选择数据淘汰。
  • allkeys-lru:当内存不足以容纳新写入数据时移除最近最少使用的key。
  • allkeys-random:从数据集中任意选择数据淘汰。
  • no-enviction(默认):当内存不足以容纳新写入数据时,新写入操作会报错。

一般情况下,推荐使用volatile-lru策略,对于配置信息等重要数据,不应该设置过期时间,这样Redis就永远不会淘汰这些重要数据。对于一般数据可以添加一个缓存时间,当数据失效则请求会从DB中获取并重新存入Redis中。

缓存击穿

首先我们来看下请求是如何取到数据的:当接收到用户请求,首先先尝试从Redis缓存中获取到数据,如果缓存中能取到数据则直接返回结果,当缓存中不存在数据时从DB获取数据,如果数据库成功取到数据,则更新Redis,然后返回数据

定义:高并发的情况下,某个热门key突然过期,导致大量请求在Redis未找到缓存数据,进而全部去访问DB请求数据,引起DB压力瞬间增大。

解决方案:缓存击穿的情况下一般不容易造成DB的宕机,只是会造成对DB的周期性压力。对缓存击穿的解决方案一般可以这样:

  • Redis中的数据不设置过期时间,然后在缓存的对象上添加一个属性标识过期时间,每次获取到数据时,校验对象中的过期时间属性,如果数据即将过期,则异步发起一个线程主动更新缓存中的数据。但是这种方案可能会导致有些请求会拿到过期的值,就得看业务能否可以接受,
  • 如果要求数据必须是新数据,则最好的方案则为热点数据设置为永不过期,然后加一个互斥锁保证缓存的单线程写。

缓存穿透

定义:缓存穿透是指查询缓存和DB中都不存在的数据。比如通过id查询商品信息,id一般大于0,攻击者会故意传id为-1去查询,由于缓存是不命中则从DB中获取数据,这将会导致每次缓存都不命中数据导致每个请求都访问DB,造成缓存穿透。

解决方案

  • 利用互斥锁,缓存失效的时候,先去获得锁,得到锁了,再去请求数据库。没得到锁,则休眠一段时间重试
  • 采用异步更新策略,无论key是否取到值,都直接返回。value值中维护一个缓存失效时间,缓存如果过期,异步起一个线程去读数据库,更新缓存。需要做缓存预热(项目启动前,先加载缓存)操作。
  • 提供一个能迅速判断请求是否有效的拦截机制,比如,利用布隆过滤器,内部维护一系列合法有效的key。迅速判断出,请求所携带的Key是否合法有效。如果不合法,则直接返回。
  • 如果从数据库查询的对象为空,也放入缓存,只是设定的缓存过期时间较短,比如设置为60秒。

缓存雪崩

定义:缓存中如果大量缓存在一段时间内集中过期了,这时候会发生大量的缓存击穿现象,所有的请求都落在了DB上,由于查询数据量巨大,引起DB压力过大甚至导致DB宕机。

解决方案

  • 给缓存的失效时间,加上一个随机值,避免集体失效。如果Redis是集群部署,将热点数据均匀分布在不同的Redis库中也能避免全部失效的问题
  • 使用互斥锁,但是该方案吞吐量明显下降了。
  • 设置热点数据永远不过期。
  1. 双缓存。我们有两个缓存,缓存A和缓存B。缓存A的失效时间为20分钟,缓存B不设失效时间。自己做缓存预热操作。然后细分以下几个小点

  2. 从缓存A读数据库,有则直接返回

  3. A没有数据,直接从B读数据,直接返回,并且异步启动一个更新线程。

  4. 更新线程同时更新缓存A和缓存B。

删除。所以用户在从缓存获取数据的时候,redis会检查这个key是否过期了,如果过期就删除这个key。这时候就会在查询的时候将过期key从缓存中清除。

相关文章

最新文章

更多

目录