如何自己搭建一个企业网站,网站在线问答怎么做,军事网址大全2345,一个地址能注册几个公司文章目录 一、logrotate概述二、logrotate基本用法三、logrotate运行机制logrotate参数 四、logrotate是怎么做到滚动日志时不影响程序正常的日志输出呢#xff1f;Linux文件操作机制方案一方案二 五、logrotate实战--Ceph日志转储参考 一、logrotate概述
logrotate是一个用于… 文章目录 一、logrotate概述二、logrotate基本用法三、logrotate运行机制logrotate参数 四、logrotate是怎么做到滚动日志时不影响程序正常的日志输出呢Linux文件操作机制方案一方案二 五、logrotate实战--Ceph日志转储参考 一、logrotate概述
logrotate是一个用于管理Linux系统上的日志文件的工具它的主要目的是确保日志文件不会变得过大从而占用过多的磁盘空间并影响系统性能。当系统运行时间越长生成的日志文件就越多这些文件可能会变得非常大导致磁盘空间不足。此外如果日志文件太大它们可能会变得不可读从而导致难以诊断和解决问题。logrotate可以定期轮换旧的日志文件并将它们压缩或删除以释放磁盘空间并保持日志文件的可读性。它还可以在轮换时创建新的日志文件以确保系统仍然可以记录重要的事件和错误信息。
logrotate旨在简化生成大量日志文件的系统上日志文件的管理。logrotate允许自动滚动、压缩、删除和邮寄日志文件。logrotate可以设置为每小时、每天、每周、每月或当日志文件达到一定大小时处理日志文件。因此logrotate对于维护系统的稳定性和可靠性非常重要。它可以确保系统管理员能够及时发现和解决潜在的问题并避免因日志文件过大而导致的性能问题。
二、logrotate基本用法
logrotate [OPTION...] configfile
-d, --debug debug模式测试配置文件是否有错误。
-f, --force 强制转储文件。
-m, --mailcommand 压缩日志后发送日志到指定邮箱。
-s, --statestatefile 使用指定的状态文件。
-v, --verbose 显示转储过程。排障过程中的最佳选择是使用-d选项以预演方式运行logrotate。要进行验证不用实际轮循任何日志文件可以模拟演练日志轮循并显示其输出。
logrotate -d 配置文件即使轮循条件没有满足我们也可以通过使用-f选项来强制logrotate轮循日志文件-v参数提供了详细的输出。
logrotate -vf 配置文件三、logrotate运行机制
logrotate的运行依赖于Linux上的定时任务命令crontabLinux crontab 命令
crontab命令会定时运行logrotate一般是每天一次。crontab会每天定时执行/etc/cron.daily目录下的脚本而这个目录下有个文件叫logrotate。
[rootceph01 cron.daily]# cat logrotate
#!/bin/sh/usr/sbin/logrotate /etc/logrotate.conf
EXITVALUE$?
if [ $EXITVALUE ! 0 ]; then/usr/bin/logger -t logrotate ALERT exited abnormally with [$EXITVALUE]
fi
exit $EXITVALUELinux系统默认安装logrotate它的配置文件在
/etc/logrotate.conf
/etc/logrotate.d/日志轮转是系统自动完成的。实际运行时logrotate会调用配置文件/etc/logrotate.conf。可以在/etc/logrotate.d/目录里放置自定义好的配置文件用来覆盖logrotate的缺省值。
查看/etc/logrotate.conf文件
[rootceph01 ceph]# cat /etc/logrotate.conf
# see man logrotate for details
# rotate log files weekly
weekly # 默认每周执行一次rotate轮转任务# keep 4 weeks worth of backlogs
rotate 4 # 保留多少日志文件默认保留4个0表示没有备份# create new (empty) log files after rotating old ones
create # 自动创建新的日志文件新的日志文件具有和原来的文件相同的权限因为日志被改名,因此要创建一个新的来继续存储之前的日志# use date as a suffix of the rotated file
dateext # 切割后日志文件以当前日期为后缀结尾如xxx.log-20230912如果注释掉切割出来是按数字递增即xxx.log-1这种格式# uncomment this if you want your log files compressed
#compress # 是否通过gzip压缩转储以后的日志文件如xxx.log-20131216.gz 如果不需要压缩注释掉# RPM packages drop log rotation information into this directory
include /etc/logrotate.d # 将/etc/logrotate.d/ 目录中的所有文件都加载进来# system-specific logs may be also be configured here.logrotate参数
compress 通过gzip 压缩转储以后的日志
nocompress 不做gzip压缩处理
copytruncate 用于还在打开中的日志文件把当前日志备份并截断是先拷贝再清空的方式拷贝和清空之间有一个时间差可能会丢失部分日志数据。
nocopytruncate 备份日志文件不过不截断
create mode owner group 轮转时指定创建新文件的属性如create 0777 nobody nobody
nocreate 不建立新的日志文件
delaycompress 和compress 一起使用时转储的日志文件到下一次转储时才压缩
nodelaycompress 覆盖 delaycompress 选项转储同时压缩。
missingok 如果日志丢失不报错继续滚动下一个日志
errors address 专储时的错误信息发送到指定的Email 地址
ifempty 即使日志文件为空文件也做轮转这个是logrotate的缺省选项。
notifempty 当日志文件为空时不进行轮转
mail address 把转储的日志文件发送到指定的E-mail 地址
nomail 转储时不发送日志文件
olddir directory 转储后的日志文件放入指定的目录必须和当前日志文件在同一个文件系统
noolddir 转储后的日志文件和当前日志文件放在同一个目录下
sharedscripts 运行postrotate脚本作用是在所有日志都轮转后统一执行一次脚本。如果没有配置这个那么每个日志轮转后都会执行一次脚本
prerotate 在logrotate转储之前需要执行的指令例如修改文件的属性等动作必须独立成行
postrotate 在logrotate转储之后需要执行的指令例如重新启动 (kill -HUP) 某个服务必须独立成行
daily 指定转储周期为每天
weekly 指定转储周期为每周
monthly 指定转储周期为每月
rotate count 指定日志文件删除之前转储的次数0 指没有备份5 指保留5 个备份
dateext 使用当期日期作为命名格式
dateformat %Y%m%d%H.%s 配合dateext使用紧跟在下一行出现定义文件切割后的文件名必须配合dateext使用只支持 %Y %m %d %s 这四个参数
size(或minsize) log-size 当日志文件到达指定的大小时才转储log-size能指定bytes(缺省)及KB (sizek)或MB(sizem).
当日志文件 log-size 的时候就转储。 以下为合法格式其他格式的单位大小写没有试过
size 5 或 size 5 5 个字节就转储
size 100k 或 size 100k
size 100M 或 size 100M四、logrotate是怎么做到滚动日志时不影响程序正常的日志输出呢
Linux文件操作机制
详细讲解Linux内核——文件系统建议收藏-目录的存储
目录也是文件目录文件里存着文件名和对应的inode编号。通过这个inode编号可以查到文件的元数据和文件内容。文件的元数据有引用计数、操作权限、拥有者ID、创建时间、最后修改时间等等。文件名并不在元数据里而是在目录文件中。因此文件改名、移动都不会修改文件而是修改目录文件。 进程每新打开一个文件系统会分配一个新的文件描述符给这个文件。文件描述符对应着一个文件表。表里面存着文件的状态信息O_APPEND/O_CREAT/O_DIRECT…、当前文件位置和文件的inode信息。系统会为每个进程创建独立的文件描述符和文件表不同进程是不会共用同一个文件表。正因为如此不同进程可以同时用不同的状态操作同一个文件的不同位置。文件表中存的是inode信息而不是文件路径所以文件路径发生改变不会影响文件操作。
方案一
这个方案的思路是重命名原日志文件创建新的日志文件。详细步骤如下
重命名程序当前正在输出日志的程序。因为重命名只会修改目录文件的内容而进程操作文件靠的是inode编号所以并不影响程序继续输出日志。创建新的日志文件文件名和原来日志文件一样。虽然新的日志文件和原来日志文件的名字一样但是inode编号不一样所以程序输出的日志还是往原日志文件输出。通过某些方式通知程序重新打开日志文件。程序重新打开日志文件靠的是文件路径而不是inode编号所以打开的是新的日志文件。
什么方式通知程序我重新打开日志呢简单粗暴的方法是杀死进程重新打开。很多场景这种作法会影响在线的服务于是有些程序提供了重新打开日志的接口比如可以通过信号通知nginx。各种IPC方式都可以前提是程序自身要支持这个功能。
有个地方值得一提一个程序可能输出了多个需要滚动的日志文件。每滚动一个就通知程序重新打开所有日志文件不太划得来。有个sharedscripts的参数让程序把所有日志都重命名了以后只通知一次。
方案二
如果程序不支持重新打开日志的功能又不能粗暴地重启程序怎么滚动日志呢copytruncate的方案出场了。
这个方案的思路是把正在输出的日志拷(copy)一份出来再清空(trucate)原来的日志。详细步骤如下
拷贝程序当前正在输出的日志文件保存文件名为滚动结果文件名。这期间程序照常输出日志到原来的文件中原来的文件名也没有变。清空程序正在输出的日志文件。清空后程序输出的日志还是输出到这个日志文件中因为清空文件只是把文件的内容删除了文件的inode编号并没有发生变化变化的是元信息中文件内容的信息。 结果上看旧的日志内容存在滚动的文件里新的日志输出到空的文件里。实现了日志的滚动。
这个方案有两个有趣的地方
文件清空并不影响到输出日志的程序的文件表里的文件位置信息因为各进程的文件表是独立的。那么文件清空后程序输出的日志应该接着之前日志的偏移位置输出这个位置之前会被\0填充才对。但实际上logrotate清空日志文件后程序输出的日志都是从文件开始处开始写的。这是怎么做到的这个问题让我纠结了很久直到某天灵光一闪这不是logrotate做的而是成熟的写日志的方式都是用O_APPEND的方式写的。如果程序没有用O_APPEND方式打开日志文件变会出现copytruncate后日志文件前面会被一堆\0填充的情况。日志在拷贝完到清空文件这段时间内程序输出的日志没有备份就清空了这些日志不是丢了吗是的copytruncate有丢失部分日志内容的风险。所以能用create的方案就别用copytruncate。所以很多程序提供了通知我更新打开日志文件的功能来支持create方案或者自己做了日志滚动不依赖logrotate。
五、logrotate实战–Ceph日志转储
以Ceph的日志文件 /var/log/ceph/*.log为例
Ceph的日志滚动也是基于logrotate实现的日志配置文件位于/etc/logrotate.d/ceph默认情况下的日志配置文件如下
[rootceph01 logrotate.d]# cat ceph
/var/log/ceph/*.log {rotate 7dailycompresssharedscriptspostrotatekillall -q -1 ceph-mon ceph-mgr ceph-mds ceph-osd ceph-fuse radosgw rbd-mirror || pkill -1 -x ceph-mon|ceph-mgr|ceph-mds|ceph-osd|ceph-fuse|radosgw|rbd-mirror || trueendscriptmissingoknotifemptysu root ceph
}默认情况下每天备份一次要做到每天备份依赖于crontab定时任务。在/etc/cron.daily/目录下有logrotate脚本每天定时执行也可以把脚本移动到/etc/cron.hourly/目录下做到每小时执行日志转储。
如果想要按照日志文件大小进行转储该如何做 删除/etc/cron.daily/目录下的logrotate脚本删除前做好备份 修改/etc/logrotate.d/ceph文件里面的参数根据实际需求设置我这里设置日志删除前转储7次日志文件大小超过1M时间格式重命名压缩转储。 [rootceph01 etc]# cat /etc/logrotate.d/ceph
/var/log/ceph/*.log {rotate 7size 1Mdateextdateformat %Y%m%d%H.%scompresssharedscriptspostrotatekillall -q -1 ceph-mon ceph-mgr ceph-mds ceph-osd ceph-fuse radosgw rbd-mirror || pkill -1 -x ceph-mon|ceph-mgr|ceph-mds|ceph-osd|ceph-fuse|radosgw|rbd-mirror || trueendscriptmissingoknotifemptysu root ceph
}在/etc/crontab中添加自定义的定时任务具体参数含义看上面的链接。这里设置的是每分钟检查日志文件大小是否超过1M超过就执行logrotate命令进行日志转储。 [rootceph01 etc]# cat /etc/crontab
SHELL/bin/bash
PATH/sbin:/bin:/usr/sbin:/usr/bin
MAILTOroot# For details see man 4 crontabs# Example of job definition:
# .---------------- minute (0 - 59)
# | .------------- hour (0 - 23)
# | | .---------- day of month (1 - 31)
# | | | .------- month (1 - 12) OR jan,feb,mar,apr ...
# | | | | .---- day of week (0 - 6) (Sunday0 or 7) OR sun,mon,tue,wed,thu,fri,sat
# | | | | |
# * * * * * user-name command to be executed
* * * * * root /usr/sbin/logrotate /etc/logrotate.conf /dev/null 21一些可能让你迷惑的地方参考logrotate详情和坑点 参考
https://www.cnblogs.com/txlsz/p/13126723.htmlhttps://zhuanlan.zhihu.com/p/90507023https://www.cnblogs.com/sailrancho/p/4784763.htmlhttps://blog.csdn.net/sinat_36358653/article/details/107390349https://blog.csdn.net/ht9999i/article/details/119001732https://blog.csdn.net/sinat_36358653/article/details/107390349
