kafka
日志搜集流程:
log-agent
-> kafka
-> log-dumper
-> log-archiver
& log-cleaner
其中,kafka
支持多端消费,目前仅处理转储操作。
日志搜集客户端,与业务容器运行到同一个Pod
中(使用kubernetes
时);或者与业务容器运行到同一个容器中;业务容器与搜集客户端需要共享日志文件存放目录路径;搜集到的内容发送到kafka
中进行缓冲处理。
日志搜集转储端,用于消费kafka
中的日志,并转储到指定的磁盘下,按照搜集的路径进行存放。
转储文件归档端,用于定期将原始日志文件进行压缩归档。
归档文件清理端,用于定期将归档的日志进行清理。