日志实时分析架构-创新互联

在上家公司工作时，设计的日志收集与实时分析架构，还是比较简单的:

flume-ng + rocketmq + storm + redis + 前端展示

消息队列部分，我们刚开始采用的是kafka，但 kafka在支持回溯消费和重复消费方面比较弱，同时在数据安全方面也相对弱一些，后来我们改为阿里的rocketmq。

考虑到我们的数据量也不是很大，已经能够足够支撑，但在rocketmq这层，有时会因为网络异常问题，会产生消息堆积，导致消息队列被冲爆，稳定性还不是非常高，后来咨询了其他部门的同事，他们的做法是，在消息队列这一层次，额外增加了一层mongodb，消息队列这层仅保留消息的索引信息，消息的实体信息保存在mongodb中，可以很好地回避此问题，后来由于各种原因就没有再去尝试此方法......

其他一些常用方案：

logstash + elasticsearch + kibana

fluentd + influxdb + grafana

flume-ng + kafka + storm

kafka + spark streaming + redis

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。