KVM 虚拟机系统为 CentOS,文件系统为 XFS。
现象如下:
- 使用
df -h
命令发现磁盘剩余空间为30k(总大小为30G),使用df -i
发现 inode 可用数量为 800(总数为18w,正常状态为1000w ) - 虚拟机为初始状态时,磁盘空间使用都正常
排查如下:
- 查看了几个日志,大小都在10M以下,并且这些日志几乎一一对应,不存在某个日志比其它多几个数量的问题,又因为是远程客户,于是漏了个文件,干
- 使用 du 命令(记住这个命令)排查具体是哪个目录占用的磁盘空间较多,
du -h --max-depth=1 /
的结果显示磁盘空间只占用了 25% 左右,另寻它法 - 在网上搜索有磁盘文件删除未释放的说法,使用命令
lsof | grep deleted
找到未释放的文件小的可怜只有 10M 左右,这个不成立 - 既然磁盘看不出有啥问题,那就从 inode 数量看看,看看哪个目录下打开的文件数量较多
find / -xdev -printf '%hn' | sort | uniq -c | sort -k 1 -n -r | head -n 20
最多的目录还是 man 下的,最多5000,最多的20个目录下的数量相加不足50%,这个也不成立 - 从文件系统的角度看看,是不是碎片太多了需要回收一些这个碎片,找到磁盘号
df -aT | grep -w xfs
,如果我的文件系统是 /dev/vda3, 那么通过xfs文件系统的命令xfs_db -c frag -r /dev/vda3
看到只有 1.7% 的碎片,清理碎片xfs_fsr /dev/vda3
, 然而并没啥用处,再次查看只减少了 0.1% 的碎片 - 裂开了,找不到解决方案,于是向红帽发了封邮件(未回)
因为一下拿不出解决方案,只能硬着头皮把这个虚拟机从客户那搞回来,恢复现场,有了进展
- 解压完后这个镜像文件有 30G,没多想,就是觉得有的大
- 尝试对这个镜像文件进行磁盘扩容,
qemu-img resize
, 在这之前实验了一下一个临时的虚拟机,其中一个命令qemu-img info
发现两个虚拟机的virtual size
都是30G,但是显示临时虚拟机的disk size
只有6G,而那个有问题的虚拟机disk size
刚好是 30G,目前这个虚拟机还没有启动,肯定是里面真的占用了这么多磁盘 - 于是准备把里面的日志文件拿出来在 vscode 中看一下,然后使用
virt-copy-out
一个文件时发现有一步巨慢,好了后看了一下这个文件 20G ,du的结果加上这个文件大小刚好就是总的大小,磁盘的问题就解决了,至于为什么这么大那是业务的东西了
由于和业务相关,所以写的还是有点模糊,这里解释一下
- xfs 文件系统的 inode 总数是会变的,在剩余磁盘空间不足5%时,开始减少
- 最最最重要的一个点,那个忽略的文件是被隐藏的(挂载内核),ls du 等命令是发现不了这个文件的,刚好人为的疏忽加上隐藏的特性导致排查的困难
- 碎片的清理功能还是很有用的,在宿主机上清理一下有几十的碎片被清理