ELK介绍
需求背景
业务发展越来越庞大，服务器越来越多
各种访问日志、应用日志、错误日志量越来越多，导致运维人员无法很好的去管理日志
开发人员排查问题，需要到服务器上查日志，不方便
运营人员需要一些数据，需要我们运维到服务器上分析日志
为什么要用到ELK？
一般我们需要进行日志分析场景：直接在日志文件中 grep、awk 就可以获得自己想要的信息。但在规模较大也就是日志量多而复杂的场景中，此方法效率低下，面临问题包括日志量太大如何归档、文本搜索太慢怎么办、如何多维度查询。需要集中化的日志管理，所有服务器上的日志收集汇总。常见解决思路是建立集中式日志收集系统，将所有节点上的日志统一收集，管理，访问。
大型系统通常都是一个分布式部署的架构，不同的服务模块部署在不同的服务器上，问题出现时，大部分情况需要根据问题暴露的关键信息，定位到具体的服务器和服务模块，构建一套集中式日志系统，可以提高定位问题的效率。
一个完整的集中式日志系统，需要包含以下几个主要特点：
1）收集－能够采集多种来源的日志数据
2）传输－能够稳定的把日志数据传输到中央系统
3）存储－如何存储日志数据
4）分析－可以支持 UI 分析
5）警告－能够提供错误报告，监控机制
而ELK则提供了一整套解决方案，并且都是开源软件，之间互相配合使用，完美衔接，高效的满足了很多场合的应用。是目前主流的一种日志系统。
ELK简介
ELK是三个开源软件的缩写，分别为：Elasticsearch 、 Logstash以及Kibana , 它们都是开源软件。不过现在还新增了一个Beats，它是一个轻量级的日志收集处理工具(Agent)，Beats占用资源少，适合于在各个服务器上搜集日志后传输给Logstash，官方也推荐此工具，目前由于原本的ELK Stack成员中加入了 Beats 工具所以已改名为Elastic Stack。
Elastic Stack包含：
Elasticsearch是个开源分布式搜索引擎，提供搜集、分析、存储数据三大功能。它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格接口，多数据源，自动搜索负载等。
详细可参考Elasticsearch权威指南
Logstash 主要是用来日志的搜集、分析、过滤日志的工具，支持大量的数据获取方式。一般工作方式为c/s架构，client端安装在需要收集日志的主机上，server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch上去。
Kibana 也是一个开源和免费的工具，Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面，可以帮助汇总、分析和搜索重要数据日志。
Beats在这里是一个轻量级日志采集器，其实Beats家族有6个成员，早期的ELK架构中使用Logstash收集、解析日志，但是Logstash对内存、cpu、io等资源消耗比较高。相比 Logstash，Beats所占系统的CPU和内存几乎可以忽略不计
ELK Stack （5.0版本之后）--> Elastic Stack == （ELK Stack Beats）。目前Beats包含六种工具：
Packetbeat： 网络数据（收集网络流量数据）
Metricbeat： 指标 （收集系统、进程和文件系统级别的 CPU 和内存使用情况等数据）
Filebeat： 日志文件（收集文件数据）
Winlogbeat： windows事件日志（收集 Windows 事件日志数据）
Auditbeat：审计数据 （收集审计日志）
Heartbeat：运行时间监控 （收集系统运行时的数据）
ELK官网：https://www.elastic.co/cn/
中文指南：https://www.gitbook.com/book/chenryn/elk-stack-guide-cn/details
ELK架构图：
环境准备
操作系统：CentOS Linux release 7.4.1708 (Core)
服务器IP：192.168.0.97
软件版本
elasticsearch：elasticsearch-6.2.2.tar.gz
kibana：kibana-6.2.2-linux-x86_64.tar.gz
logstash：logstash-6.2.2.tar.gz
JDK：JDK-1.8.0_181
一、基础环境配置及软件包下载
1、关闭防火墙和selinux
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# systemctl disable firewalld
[root@localhost ~]# setenforce 0
[root@localhost ~]# sed -i '/SELINUX/s/enforcing/disabled/' /etc/selinux/config
2、内核优化
[root@localhost ~]# vim /etc/security/limits.conf
#在文件最后添加以下内容
* soft nofile 65537
* hard nofile 65537
* soft nproc 65537
* hard nproc 65537
[root@localhost ~]# egrep -v "^$|#" /etc/security/limits.conf
[root@localhost ~]# vim /etc/security/limits.d/20-nproc.conf
#修改以下内容
* soft nproc 4096
[root@localhost ~]# vim /etc/sysctl.conf
#添加以下内容
vm.max_map_count = 262144
net.core.somaxconn=65535
net.ipv4.ip_forward = 1
#执行sysctl -p使其生效
[root@localhost ~]# sysctl -p
3、安装JDK环境
[root@localhost ~]# wget https://mirrors.yangxingzhen.com/jdk/jdk-8u181-linux-x64.tar.gz
[root@localhost ~]# tar zxf jdk-8u181-linux-x64.tar.gz -C /usr/local
#配置/etc/profile，添加以下内容
[root@localhost ~]# vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.8.0_181
export JRE_HOME=/usr/local/jdk1.8.0_181/jre
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$PATH
[root@localhost ~]# source /etc/profile
#看到如下信息，java环境配置成功
[root@localhost ~]# java -version
java version "1.8.0_181"
Java(TM) SE Runtime Environment (build 1.8.0_181-b13)
Java HotSpot(TM) 64-Bit Server VM (build 25.121-b13, mixed mode)
二、安装Elasticsearch
1、创建持久化目录及logs目录
[root@localhost ~]# mkdir -p /data/elasticsearch/{data,logs}
2、下载elasticsearch软件包
[root@localhost ~]# wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.2.2.tar.gz
3、解压并重命名
[root@localhost ~]# tar zxf elasticsearch-6.2.2.tar.gz
[root@localhost ~]# mv elasticsearch-6.2.2 /usr/local/elasticsearch
4、修改elasticsearch.yml配置文件，文件内容如下
[root@localhost ~]# vim /usr/local/elasticsearch/config/elasticsearch.yml
node.name: localhost
path.data: /data/elasticsearch/data
path.logs: /data/elasticsearch/logs
network.host: 0.0.0.0
http.port: 9200
5、创建elk用户并授权
[root@localhost ~]# useradd elk
[root@localhost ~]# chown -R elk.elk /data/elasticsearch/*
[root@localhost ~]# chown -R elk.elk /usr/local/elasticsearch
6、启动es服务（第一次先测试好在加-d后台启动）
[root@localhost ~]# su – elk
[elk@localhost ~]$ /usr/local/elasticsearch/bin/elasticsearch
7、后台启动es服务
[elk@localhost ~]$ /usr/local/elasticsearch/bin/elasticsearch -d
Elasticsearch常用命令
curl -XDELETE 'http://host.IP.address:9200/logstash-*' 删除索引(后面为索引名称)
curl -XGET 'host.IP.address:9200/_cat/health?v&pretty' 查看集群状态
curl -XGET 'host.IP.address:9200/_cat/indices?v&pretty' 查看索引
三、安装logstash
1、下载软件包
[root@localhost ~]# wget https://artifacts.elastic.co/downloads/logstash/logstash-6.2.2.tar.gz
2、解压并重命名
[root@localhost ~]# tar zxf logstash-6.2.2.tar.gz
[root@localhost ~]# mv logstash-6.2.2 /usr/local/logstash
3、编辑logstash.yml配置文件，添加以下内容
[root@localhost ~]# vim /usr/local/logstash/config/logstash.yml
config.reload.automatic: true
config.reload.interval: 10s
4、创建Nginx配置文件
[root@localhost ~]# mkdir /usr/local/logstash/conf
[root@localhost ~]# vim /usr/local/logstash/conf/nginx.conf
input {
file {
path => "/usr/local/nginx/logs/access.log"
start_position => "beginning"
}
}
filter {
}
output {
#stdout { codec=> rubydebug }
elasticsearch {
hosts => ["192.168.0.97:9200"]
index => "nginx_access-%{ YYYY.MM.dd}"
}
}
四、安装Kibana
1、下载Kibana软件包
[root@localhost ~]# wget https://artifacts.elastic.co/downloads/kibana/kibana-6.2.2-linux-x86_64.tar.gz
2、解压并重命名
[root@localhost ~]# tar zxf kibana-6.2.2-linux-x86_64.tar.gz
[root@localhost ~]# mv kibana-6.2.2-linux-x86_64 /usr/local/kibana
[root@localhost ~]# chown -R elk.elk /usr/local/kibana
3、编辑kibana.yml配置文件
[root@localhost ~]# vim /usr/local/kibana/config/kibana.yml
server.port: 5601
server.host: "192.168.0.97"
elasticsearch.url: "http://192.168.0.97:9200"
4、启动Kibana服务（采用后台启动）
#前台启动
[elk@localhost ~]$ /usr/local/kibana/bin/kibana
#后台启动
[elk@localhost ~]$ /usr/local/kibana/bin/kibana &
温馨提示：可以先前台启动查看日志，正常之后在后台启动。
5、访问Kibana
#浏览器访问http://192.168.0.97:5601，界面如下
因为现在没有数据，我们现在配置Nginx进行Nginx的日志收集
五、安装并配置Nginx收集日志
1、下载Nginx软件包
[root@localhost ~]# wget https://mirrors.yangxingzhen.com/nginx/nginx-1.15.2.tar.gz
2、解压软件包
[root@localhost ~]# tar zxf nginx-1.15.2.tar.gz
3、预编译
[root@localhost ~]# cd nginx-1.15.2
[root@localhost nginx-1.15.2]# yum -y install pcre pcre-devel openssl openssl-devel gcc gcc-c
[root@localhost nginx-1.15.2]# ./configure --prefix=/usr/local/nginx --user=www --group=www --with-http_ssl_module --with-http_stub_status_module
4、编译及安装
[root@localhost nginx-1.15.2]# make && make install
5、编辑nginx.conf配置文件，配置内容如下
[root@localhost ~]# vim /usr/local/nginx/conf/nginx.conf
user www www;
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
log_format main '{"@timestamp":"$time_iso8601",'
'"host":"$server_addr",'
'"clientip":"$remote_addr",'
'"remote_user":"$remote_user",'
'"request":"$request",'
'"http_user_agent":"$http_user_agent",'
'"size":$body_bytes_sent,'
'"responsetime":$request_time,'
'"upstreamtime":"$upstream_response_time",'
'"upstreamhost":"$upstream_addr",'
'"http_host":"$host",'
'"requesturi":"$request_uri",'
'"url":"$uri",'
'"domain":"$host",'
'"xff":"$http_x_forwarded_for",'
'"referer":"$http_referer",'
'"status":"$status"}';
access_log logs/access.log main;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
server {
listen 80;
server_name localhost;
location / {
root html;
index index.html index.htm;
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}
6、启动Nginx服务
[root@localhost nginx-1.15.2]# useradd www
[root@localhost nginx-1.15.2]# /usr/local/nginx/sbin/nginx
7、测试logstash配置文件是否正常
[root@localhost nginx-1.15.2]# chown -R elk.elk /usr/local/logstash
[root@localhost nginx-1.15.2]# su – elk
[elk@localhost ~]$ /usr/local/logstash/bin/logstash -f /usr/local/logstash/conf/nginx.conf -t
8、启动logstash
[elk@localhost ~]$ /usr/local/logstash/bin/logstash -f /usr/local/logstash/conf/nginx.conf
温馨提示，一定要确保logs目录elk有权限写入，建议我们在启动elk之前在执行一次chown -R elk.elk /usr/local/logstash
请确保logstash中的file文件有读取权限，否则无法在ES中创建索引！
9、Kibana配置
目前logstash已经将收集的日志存储在es里面，我们需要用kibana进行展示
点击Management
创建索引
至此，Nginx日志采集成功。
