189 8069 5689

Redis持久化时内存不足怎么处理

本篇内容主要讲解“redis持久化时内存不足怎么处理”，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习“Redis持久化时内存不足怎么处理”吧!

超过10余年行业经验，技术领先，服务至上的经营模式，全靠网络和口碑获得客户，为自己降低成本，也就是为客户降低成本。到目前业务范围包括了：成都网站制作、成都网站建设，成都网站推广，成都网站优化，整体网络托管，重庆小程序开发，微信开发，app软件开发，同时也可以让客户的网站和网络营销和我们一样获得订单和生意！

问题描述

# Java错误日志:
redis.clients.jedis.exceptions.JedisDataException: MISCONF Redis is configured to save RDB snapshots, but is currently not able to persist on disk. Commands that may modify the data set are disabled. Please check Redis logs for details about the error.

# Redis错误日志:
Can't save in background: fork: Resource temporaily unavailable
# 或
Can’t save in background: fork: Cannot allocate memory

Redis在个默认情况下，如果在RDB snapshots持久化过程中出现问题，Redis不允许用户进行任何更新操作；即：stop-writes-on-bgsave-error yes。

临时解决方案是通过命令：config set stop-writes-on-bgsave-error no 设置这个选项为false，让程序忽略了这个异常，使得程序能够继续往下运行，但写硬盘仍然是失败的！

问题分析

Redis数据回写机制

Redis在进行持久化的时候，有的时候可以在日志中看到fork进程失败的提示，一般是系统可用的内存空间不够导致，这需要我们对fork原理明白，才能更好的进行参数调整。

一般来说Redis在进行RDB的时候，会fork出一个子进程，子进程和父进程会共享一个地址空间，在fork子进程的时候，会检查当前机器可用的内存是否满足fork出一个子进程的要求，一般由操作系统overcommit_memory(系统内存分配策略)决定。

  • Redis的数据回写机制分同步和异步两种，

    • 同步回写即SAVE命令，主进程直接向磁盘回写数据。在数据大的情况下会导致系统假死很长时间，所以一般不是推荐的。

    • 异步回写即BGSAVE命令，主进程fork后，复制自身并通过这个新的进程回写磁盘，回写结束后新进程自行关闭。由于这样做不需要主进程阻塞，系统不会假死，一般默认会采用这个方法。

Redis默认采用异步回写，所以如果我们要将数据刷到硬盘上，这时Redis分配内存不能太大，否则很容易发生内存不够用无法fork的问题； 设置一个合理的写磁盘策略，否则写频繁的应用，也会导致频繁的fork操作，对于占用了大内存的Redis来说，fork消耗资源的代价是很大的；

系统内存分配策略

Linux对大部分申请内存的请求都回复yes，以便能跑更多更大的程序。

因为申请内存后，并不会马上使用内存，将这些不会使用的空闲内存分配给其它程序使用，以提高内存利用率，这种技术叫做Overcommit。

一般情况下，当所有程序都不会用到自己申请的所有内存时，系统不会出问题，但是如果程序随着运行，需要的内存越来越大，在自己申请的大小范围内，不断占用更多内存，直到超出物理内存，当Linux发现内存不足时，会发生OOM killer(OOM=out-of-memory)。

OOM killer会选择杀死一些进程，以便释放内存。当发生OOM killer时，会记录在系统日志中/var/log/messages。

用户态进程，非内核线程，占用内存越多和运行时间越短的进程越有可能被杀掉。

  • 在Linux下有个vm内核参数：CommitLimit用于限制系统应用使用的内存资源；执行grep -i commit /proc/meminfo，看到CommitLimit和Committed_As参数。

    • CommitLimit是一个内存分配上限，CommitLimit = 物理内存 * overcommit_ratio(/proc/sys/vm/overcmmit_ratio，默认50，即50%) + swap大小

    • Committed_As是已经分配的内存大小(应用程序要申请的内存 + 系统已经分配的内存)。

  • vm.overcommit_memory文件指定了内核针对内存分配的策略，其值可以是0、1、2。

    • 0：启发策略(默认)；表示内核将检查是否有足够的可用内存供应用进程使用；如果有足够的可用内存，内存申请允许；否则，内存申请失败，并把错误返回给应用进程。系统在为应用进程分配虚拟地址空间时，会判断当前申请的虚拟地址空间大小是否超过剩余内存大小，如果超过，则虚拟地址空间分配失败。因此，也就是如果进程本身占用的虚拟地址空间比较大或者剩余内存比较小时，fork、malloc等调用可能会失败。 0即是启发式的overcommitting handle，会尽量减少swap交换分区的使用，root可以分配比一般用户略多的内存。

    • 1：允许overcommit；表示内核允许分配所有的物理内存，而不管当前的内存状态如何，允许超过CommitLimit，这种情况下，避免了fork可能产生的失败，但由于malloc是先分配虚拟地址空间，而后通过异常陷入内核分配真正的物理内存，在内存不足的情况下，这相当于完全屏蔽了应用进程对系统内存状态的感知，即malloc总是能成功，一旦内存不足，会引起系统OOM杀进程，应用程序对于这种后果是无法预测的。 直至内存用完为止。在数据库服务器上不建议设置为1，从而尽量避免使用swap交换分区。

    • 2：禁止overcommit；表示不允许超过CommitLimit值。由于很多情况下，进程的虚拟地址空间占用远大于其实际占用的物理内存，这样一旦内存使用量上去以后，对于一些动态产生的进程(需要复制父进程地址空间)则很容易创建失败，如果业务过程没有过多的这种动态申请内存或者创建子进程，则影响不大，否则会产生比较大的影响 。这种情况下系统所能分配的内存不会超过上面提到的CommitLimit大小，如果这么多资源已经用光，那么后面任何尝试申请内存的行为都会返回错误，这通常意味着此时没法运行任何新程序。

解决方案

修改系统内存分配策略

我们可以通过设置overcommit_memory=1的优化，减少操作系统内存，提高Redis的fork成功率，因为fork后的进程和父进程共享一个数据空间，持久化要新增的内存空间都会小于父进程已经使用的空间，具体有三种方式修改内核参数，但要有root权限：

  1. 编辑/etc/sysctl.conf ，改vm.overcommit_memory=1，然后sysctl -p使配置文件生效；

  2. 命令：sysctl vm.overcommit_memory=1 ；

  3. 命令：echo 1 > /proc/sys/vm/overcommit_memory；

关闭THP（Transparent Huge Pages）

当Redis持久化fork子进程后，占用内存大小和父进程等同，由于Linux在写时有copy-on-write机制，父子进程共享相同的物理内存页，当父进程处理写请求的时候会把要修改的页创建副本，而子进程在fork过程中共享整个父进程的内存快照。如果我们要减少创建的副本的大小，就涉及操作系统的另外一个概念Huge Pages(大页)。

在Redhat Linux中，内存都是以页的形式划分的，默认情况下每页是4K，这就意味着如果物理内存很大，则映射表的条目将会非常多，会影响CPU的检索效率。因为内存大小是固定的，为了减少映射表的条目，可采取的办法只有增加页的尺寸。Linux Kernel在2.6.38内核中增加了THP(Transparent Huge Pages)的特性，支持大内存页（2MB）分配，默认开启。当开启后可以加快fork子进程的速度，但fork操作之后，每个内存页从原来的4KB变成了2MB，会大幅增加重写期间父进程内存消耗，同时每次写命令引起的复制内存页单位放大了512倍，会拖慢写操作的执行时间，因此在使用Redis的时候Redis建议关闭THP，方法为：echo never > /sys/kernel/mm/transparent_hugepage/enabled。为了让机器重启该参数仍然生效，建议在/etc/rc.local中追加echo never > /sys/kernel/mm/transparent_hugepage/enabled，避免失效。当大页被关闭后，可以看到同等操作下，RDB备份时候的copy-on-write变化内存空间会减少。

综上分析，我们可以操作系统物理内存和Redis内存之间的一些关系，尤其Redis在持久化的时候fork进程会随操作系统的参数不同，需要的内存也有所不同，为了加快fork子进程的速度以及主备之间的文件传输同步，一般我们建议一个Redis节点的最大内存在10G-15G左右，操作系统的内存适当冗余，尽量控制同一台机器的多个Redis节点在同一个时间点进行RDB备份（可以通过缓存中心定时备份），导致内存同一时刻增加避免内存空间不足导致的fork失败，最安全保险的情况是内存为Redis的2倍，但是在vm.overcommit_memory=1和大页关闭的情况下，可以根据实际使用，降低操作系统的整个内存大小 。

  • 参考文章：

    • https://www.jianshu.com/p/785ee3bea266

    • https://www.cnblogs.com/wjoyxt/p/3777042.html

到此，相信大家对“Redis持久化时内存不足怎么处理”有了更深的了解，不妨来实际操作一番吧！这里是创新互联网站，更多相关内容可以进入相关频道进行查询，关注我们，继续学习！


分享文章：Redis持久化时内存不足怎么处理
网站链接：http://jkwzsj.com/article/ggsddg.html

其他资讯