服务器开发学习 -- 异步双缓冲日志系统

源码链接:https://github.com/RaKiRaKiRa/Cyclone
通过 git clone https://github.com/RaKiRaKiRa/Cyclone.git可直接下载,有详细的注释

异步双缓冲日志系统 ,由AppendFile( base/FileUtil.h, base/FileUtil.cc ), LogFile ( base/LogFile.h, base/LogFile.cc), LogStream ( base/LogStream.h , base/LogStream.cc), FixedBuffer (base/LogStream.h), Logger (base/Logging.h , base/Logging.cc), AsyncLogging (base/AsyncLogging.h, base/AsyncLogging.cc) 组成。

双缓冲指缓冲分为前端部分与后端部分,由AsyncLogging进行调度。前端缓冲区负责接收Logger传来的日志,后端缓冲区是在以flush间隔为间隔的频率下将处理后得到的空缓冲区与前端缓冲区交换得到已收到日志,再通过LogFile存入文件中。

  • LogStream主要用来格式化输出,重载了<<运算符,同时也有自己的一块缓冲区,即为FixedBuffer,这里缓冲区的存在是为了缓存一行,把多个<<的结果连成一块。
  • Logger是对外接口,内含一个LogStream对象,主要是为了每次打log的时候在log之前和之后加上固定的格式化的信息,比如打log的行、文件名、时间、日志等级等信息。
  • Logger通过建立匿名对象进行使用,在析构函数中调用指定函数将内含LogStream的缓冲区输出到指定函数。默认输出到stdout
  • FileUtil是最底层的文件类,封装了Log文件的打开、写入并在类析构的时候关闭文件,底层使用了标准IO,该append函数直接向文件写。使用setbuffer设置用户行缓存区。
  • LogFile进一步封装了FileUtil,设置了Roll和Flush策略。
    • roll即更换文件进行存储日志,策略为已写入指定行数或到达第二天后执行
    • flush即冲洗流中的信息进入文件,策略为间隔指定事件(默认为3秒)
  • AsyncLogging是核心,它负责启动一个log线程,专门用来将log写入LogFile
    • AsyncLogging负责(定时到或被填满时)将缓冲区中的数据写入LogFile中,需要事先通过setOutput将AsyncLogging::append()绑定给Logger。
    • 应用了“双缓冲技术”(指前后端),其实有4个以上的缓冲区(前端 后端各两个)。使新建日志时不必等待磁盘文件操作,也避免每个新日志消息都唤醒后端日志线程,减少开销。
    • 前端缓冲区负责接收Logger传来的日志,后端缓冲区是在以flush间隔为间隔的频率下将处理后得到的空缓冲区与前端缓冲区交换得到日志,再通过LogFile存入文件中。
  • 将日志分为TRACE , DEBUG , INFO , WARN , ERROR , FATAL六个级别,通过LOG_TRACE , LOG_DEBUG , LOG_INFO , LOG_WARN , LOG_ERROR , LOG_FATAL进行输出。
    • TRACE,细粒度最高的日志信息,打印的最详细
    • DEBUG,细粒度级别上对调试有帮助的日志信息
    • INFO,粗粒度级别上强调程序的运行信息
    • WARN,程序能正常运行,但存在潜在风险的信息
    • ERROR,执行出错,但不影响程序继续执行的错误信息
    • FATAL,将导致程序退出的严重信息

测试代码为与src/base/test/log_test.cc

/********************************************************** * Author : RaKiRaKiRa * Email : 763600693@qq.com * Create time : 2019-06-05 15:05 * Last modified : 2019-06-05 15:05 * Filename : log_test.cc * Description : **********************************************************/
#include <string.h>
#include "../AsyncLogging.h"
#include "../Logging.h"

AsyncLogging *logptr = NULL;

void output(const char* logline, int len)
{
  logptr -> append(logline, len);
}

int main()
{
  //log输出到标准输出stdout

  LOG<<"Rua!!!!!!!";
  //输出到文件
  logptr = new AsyncLogging("asynclog", 50*1024*1000);
  Logger::setOutput(output);
  logptr -> start();
  
    for(int i=0;i<10;i++){
	LOG<<"Rua!!!!!!!";
        LOG_INFO<<"ASYNC LOG";
        struct timespec ts = { 0, 500*1000*1000 };
        nanosleep(&ts, NULL);
    }
    //测试各等级的日志
  	LOG<<"Rua!!!!!!!";
	LOG_WARN<<"Rua!!!!!!!";
	LOG_ERROR<<"Rua!!!!!!!";
	LOG_FATAL<<"Rua!!!!!!!";
	LOG_TRACE<<"Rua!!!!!!!";
	LOG_DEBUG<<"Rua!!!!!!!";
	LOG<<"Rua!!!!!!!";
	LOG<<"Rua!!!!!!!";
	struct timespec ts2 = { 10,0};
        nanosleep(&ts2, NULL);
}

在终端进入src/base/test,通过输入cmake ..生成makefile文件,然后输入make进行编译,进入test,输入./log_test运行,下面是输出结果

全部评论

相关推荐

不愿透露姓名的神秘牛友
05-13 16:09
我入职那天分到的mentor是个工作三年的哥们儿,外号杰哥,浙大本硕,技术贼好,人也特别耐心。第一周他手把手带我熟悉项目,下班还带我去公司食堂吃晚饭,跟我讲组里的人际关系、哪个产品好沟通、哪个测试爱挑刺。我当时心里那个踏实啊,心想这mentor是真带我,运气真好。我甚至已经开始幻想转正后跟着他干。周一下午四点多,我正在改一个特别恶心的bug,他飞书突然发我:"小x,跟你说个事儿,我下周一是最后一天,我跳槽了,你之后跟着王哥学。"我当时直接回复了“????”真的以为他在开玩笑。他发了一个尴尬笑的表情,"真的,offer上个月就拿了,一直没说"。我那一瞬间真的不知道说啥。下班的时候我特意去他工位转了一圈,他已经在收拾东西来,看见我笑了一下,说"我请你吃个饭吧"。我们去了公司楼下的麻辣烫。吃饭的时候他跟我说了很多,说大厂这边晋升路径太卷,说他家在外地啊老婆怀孕了啊想离家近点什么的,说新公司虽然小但是给的钱多。我一边吃一边点头,看到一个快到中年研发人的无奈,感觉也看到了未来的我,心里挺不是滋味的。今早上午他飞书里发我一个文档链接,是他这两年攒的项目笔记,模块分工、踩过的坑、谁负责啥都有。他说"这个你留着,遇到问题先看这个再找王哥吧"。说实话,我当时贼感动,工作的这两周,他可能是我在公司里唯一真正把我当回事儿的人了。最后,我想说兄弟们,找实习真的别只看大厂光环,mentor稳定性也是玄学之一。我现在心里有点空,感觉靠山没了
鹿LF:你mt不是才工作三年吗,怎么就中年研发人了
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务