技术分享 | 如何优雅的删除 Zabbix 的 history 相关历史大表

文章讲述了在客户Zabbix实例中history_str表数据过大导致磁盘空间紧张的问题。作者提出了一种经过实践检验的解决方案,包括创建新表并rename,建立硬链接,利用业务低峰期在主从库上分步操作,以及使用Linux的truncate命令安全地释放空间。该方案旨在减少对数据库服务的影响,同时避免大表drop操作带来的风险。

作者:徐文梁

爱可生DBA成员,一个执着于技术的数据库工程师,主要负责数据库日常运维工作。擅长MySQL,redis,其他常见数据库也有涉猎,喜欢垂钓,看书,看风景,结交新朋友。

本文来源:原创投稿

*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


问题背景:

前段时间,客户反馈 Zabbix 实例的 history_str 表数据量很大,导致磁盘空间使用率较高,想要清理该表,咨询是否有好的建议。想着正好最近学习了相关的知识点,正好可以检验一下学习成果,经过实践的检验,最终考试合格,客户也比较满意,于是便有了此文。

问题沟通:

通过实际查看环境及与客户沟通,得出以下信息:

1.现场是双向主从复制架构,未设置从库read_only只读。

2.history_str表的ibd数据文件超460G。

3.history_str表的存量数据可以直接清理。

4.现场实例所在的服务器是虚拟机,配置较低。

因此,综合考虑后建议客户新建相同表结构的表然后对原表进行drop操作,但是表数据量比较大,需要考虑以下风险:

1.drop大表可能会导致实例hang住,影响数据库正常使用。

2.drop大表操作导致主从延时。

3.删除大文件造成磁盘io压力较大。

最终方案:

在考虑以上的基础上,最终给出如下方案:

1.在主库执行如下命令建立相同表结构表并进行rename操作:

create table history_str_new like history_str;
rename table history_str to history_str_old, history_str_new to
history_str;

2.在主库和从库执行以下操作,建立硬链接文件:

ln history_str_old.ibd history_str_old.ibd.hdlk

3.完成第二步后,建议间隔一两天再进行操作,让history_str_old表数据从innodb buffer pool中冷却,然后业务低峰期在主从库分别执行如下操作,建议先操作从库,从库验证没问题后再在主库操作:

set sql log bin=0;       //临时关闭写操作记录binlog
drop table history_str_old;//执行drop操作
set sql log bin=l;       //恢复写操作记录binlog

4.删除history_old.ibd.hdlk文件,释放空间,可以通过linux的truncate命令实现,参考脚本如下:

#!/bin/bash
##############################################################################
##            第一个参数为需要执行操作的文件的文件名称           ##
##           第二个参数为每次执行操作的缩减值,单位为MB          ##
##           第三个参数为每次执行后的睡眠时间,单位为S           ##
##############################################################################
  
fileSize=`du $1|awk -F" " '{print $1}'`
fileName=$1
chunk=$2
sleepTime=$3
chunkSize=$(( chunk * 1024 ))
rotateTime=$(( fileSize / chunkSize ))
declare -a currentSize
echo $rotateTime
  
function truncate_action()
{
for (( i=0; i<=${rotateTime}; i++ ))
do
if [ $i -eq 0 ];then
echo "开始进行truncate操作,操作文件名为:"$fileName
fi
  
if [ $i -eq ${rotateTime} ];then
echo "执行truncate操作结束!!!"
fi
  
truncate -s -${chunk}M $fileName
currentSize=`du -sh $fileName|awk -F" " '{print $1}'`
echo "当前文件大小为: "$currentSize
sleep $sleepTime
done
}
  
truncate_action

示例:sh truncateFile.sh history_str_old.ibd.hdlk 256 1,表示删除history_str_old.ibd.hdlk文件,每次截断大小为256M,然后sleep间隔为1s。

5.到此,静静等待就行了。无聊的话也可以思考一下人生。

小知识:

前面解决了如何操作的问题,但是作为一个称职的DBA,不光要知道如何做,还得知道为什么这么做,不然的话,敲回车键容易,后悔却很难,干货来了,一起了解一下吧。下次遇到类似问题就不慌了。

tips1:

MySQL删除表的流程:
1.持有buffer pool mutex。
2.持有buffer pool中的flush list mutex。
3.扫描flush list列表,如果脏页属于drop掉的table,则直接将其从flush list列表中移除。如果开启了AHI,还会遍历LRU,删除innodb表的自适应散列索引项,如果mysql版本在5.5.23之前,则直接删除,对于5.5.23及以后版本,如果占用cpu和mutex时间过长,则释放cpu资源,flush list mutex和buffer pool mutex一段时间,并进行context switch。一段时间后重新持有buffer pool mutex,flush list mutex。
4.释放flush list mutex。
5.释放buffer pool mutex。

tips2:

对于linux系统,一个磁盘上的文件可以由多个文件系统的文件引用,且这多个文件完全相同,并指向同一个磁盘上的文件,当删除其中任一一个文件时,并不会删除真实的文件,而是将其被引用的数目减1,只有当被引用数目为0时,才会真正删除文件。

tips3:

大表drop或者truncate相关的一些bug:
 
这两个指出drop table 会做两次 LRU 扫描:一次是从 LRU list 中删除表的数据页,一次是删除表的 AHI 条目。
https://bugs.mysql.com/bug.php?id=51325
https://bugs.mysql.com/bug.php?id=64284
  
对于分区表,删除多个分区时,删除每个分区都会扫描LRU两次。
https://bugs.mysql.com/bug.php?id=61188
  
truncate table 会扫描 LRU 来删除 AHI,导致性能下降;8.0 已修复,方法是将 truncate 映射成 drop table + create table
https://bugs.mysql.com/bug.php?id=68184
  
drop table 扫描 LRU 删除 AHI 导致信号量等待,造成长时间的阻塞
https://bugs.mysql.com/bug.php?id=91977
  
8.0依旧修复了 truncate table 的问题,但是对于一些查询产生的磁盘临时表(innodb 表),在临时表被删除时,还是会有同样的问题。这个bug在8.0.23中得到修复。
https://bugs.mysql.com/bug.php?id=98869
内容概要:本文系统研究了含混合式抽水蓄能的梯级水电站在源-网-荷-储协同系统中的日前优化调度问题,并提供了基于Matlab的代码实现。研究聚焦于高比例可再生能源接入背景下,如何通过优化调度提升电力系统的灵活性与经济性。建立了综合考虑梯级水电站水力耦合关系、抽水蓄能电站双向调节能力、电网潮流约束、负荷需求响应及新能源出力不确定性的多主体协同优化模型,采用数学规划方法求解,旨在实现系统运行成本最小化或清洁能源消纳最化。研究强调了多能互补与时空协调的重要性,为现代电力系统的低碳高效运行提供了技术路径与仿真工具。; 适合人群:具备电力系统分析、优化理论基础及Matlab编程能力的科研人员、电气工程及相关专业的研究生,以及从事电网调度、能源规划与综合能源系统设计的工程技术人员。; 使用场景及目标:①用于学习和复现源网荷储协同调度的建模方法与求解流程;②为含规模水电与储能的区域电网日前调度提供决策支持;③支撑学术研究、学位论文撰写或实际工程项目中的调度方案评估与优化设计。; 阅读建议:建议结合所提供的Matlab代码与相关学术文献,深入理解模型构建的物理意义与数学达,通过调整系统参数、边界条件或扩展模型结构(如引入更多不确定性因素)进行仿真验证与二次开发,以深化对综合能源系统优化运行机制的理解。
内容概要:本文针对传统三电平并网逆变器存在的谐波含量高、电网不平衡工况适应性差及动态响应慢等问题,以有源中点箝位(ANPC)三电平逆变器为研究对象,提出了一套融合双极性倍频脉宽调制(DPWMA)、正负序分离锁相与电网电压前馈控制的高性能一体化并网控制策略。通过深入分析ANPC拓扑结构在开关损耗均衡、输出波形质量与中点电位控制方面的显著优势,奠定了系统高性能运行的硬件基础。在此基础上,DPWMA调制策略有效提升了等效开关频率,显著降低输出谐波含量;正负序分离锁相技术实现了电网不平衡工况下的精确相位同步,有效抑制负序分量干扰;电网电压前馈控制则幅增强了系统的动态响应能力,有效抑制外部扰动影响。通过多层次、多场景的仿真验证,该复合控制策略在稳态运行、电网不平衡及动态切换等工况下均展现出卓越的电能质量、运行稳定性与强鲁棒性,为功率新能源并网系统提供了先进的技术解决方案。; 适合人群:从事电力电子、新能源并网、智能电网等相关领域的科研人员、电气工程专业研究生及具备一定Matlab/Simulink仿真基础的工程技术人员。; 使用场景及目标:①应用于功率新能源并网系统中,提升逆变器在复杂电网环境下的运行性能;②为高电能质量要求的工业变频、电能治理设备提供先进的控制策略参考;③作为电力电子系统仿真教学与科研项目的技术方案范例,深化对多电平逆变器及其先进控制技术的理解。; 阅读建议:建议读者结合文中提到的Matlab/Simulink仿真模型进行实践验证,重点关注DPWMA调制的实现细节、正负序分离算法的设计原理以及前馈-反馈复合控制结构的搭建方法,深入理解各模块间的协同工作机制,以全面掌握高性能并网逆变器的设计要点与核心技术
内容概要:本文针对间歇性光伏出力导致的48V直流母线电压波动问题,开展离网光伏直流微网系统的电压稳定控制与储能系统双向充放电闭环调控研究。通过Simulink搭建包含光伏阵列、Boost升压变换器、负载、双向DC-DC变换器及锂离子电池储能的完整仿真系统,重点研究在光照不稳、负载变化等动态条件下系统的能量管理策略。采用光伏MPPT技术化太阳能捕获效率,结合储能系统的双向功率调节能力,实现“削峰填谷”与功率动态平衡。研究构建了分层控制架构,涵盖母线电压外环控制与储能充放电内环控制,确保直流母线电压稳定在额定水平,有效抑制功率供需失衡,提升微网电能质量与运行可靠性。; 适合人群:具备电力电子、新能源系统、自动控制或电气工程等相关专业知识的科研人员、高校研究生,以及从事光伏储能系统、微电网设计与仿真的工程技术人员。; 使用场景及目标:①应用于偏远地区、海岛或独立建筑等无电网接入场景下的光伏直流微网系统设计与优化;②为解决光伏发电间歇性引发的电压波动与功率失衡问题提供有效的控制策略与仿真验证方案;③指导研究人员开展储能系统在微网中参与电压支撑与能量调度的建模仿真与实验研究。; 阅读建议:建议结合Simulink仿真环境动手复现模型,重点关注MPPT算法与储能双向DC-DC变换器控制策略的协同工作机制,深入理解分层控制结构中各模块的信号传递与动态响应特性,以全面掌握系统在不同工况下的稳定控制机理。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值