您的位置:首页 > 其它

Beats:Beats 入门教程 (二)

2020-03-02 04:40 761 查看

这篇文章是 “Beats 入门教程 (一)”的续篇。在上一篇文章,我们主要讲述了Beats的一些理论方面的知识。在这篇文章中,我们将具体展示如何使用Filebeat及Metriceat把数据导入到我们的Elasticsearch并对他们进行分析。

 

安装Elastic Stack

对于我们的测试环境,我们可以有几种选择:

在今天的练习中,我将主要以本机的Elastic Stack及Elastic cloud来讲述。针对其它的环境,基本都是一样的。

 

Filebeat

我们打开我们的自己的Kibana,并按照如下的步骤来进行安装:

由于Filebeat是log相关的,所以我们需要选择“Add log data”。我们想对系统(System)日志进行监控,所以,我们选择“System logs”:

然后,我们根据我们自己运行的平台,我们分别使用不同的命令来在我们的平台上进行安装:

在上面我们可以看到最详细的安装指令。根据我的情况,我在MacOS上部署我的Filebeat。具体的安装步骤如下:

下载Filebeat

我们执行如下的指令来安装Filebeat:

[code]curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.5.0-darwin-x86_64.tar.gz
tar xzvf filebeat-7.5.0-darwin-x86_64.tar.gz
cd filebeat-7.5.0-darwin-x86_64/

配置Filebeat

我们在Filebeat的安装目录下,可以发现一个叫做filebeat.yml的文件。这个文件就是filebeat的配置文件:

[code]$ pwd
/Users/liuxg/elastic8/filebeat-7.5.0-darwin-x86_64
liuxg-2:filebeat-7.5.0-darwin-x86_64 liuxg$ ls
LICENSE.txt            fields.yml             kibana
NOTICE.txt             filebeat               logs
README.md              filebeat.reference.yml module
data                   filebeat.yml           modules.d

我们用我们所喜爱的编辑打开filebeat.yml文件,并找到如下的部分:

[code]output.elasticsearch:
hosts: ["<es_url>"]
username: "elastic"
password: "<password>"
setup.kibana:
host: "<kibana_url>"

在上面,我们需要把我们的Elasticsearch及Kibana的host地址填上。针对我本地的情况,我填入localhost:9200和localhost:5601。如果是针对本地安装的Elastic Stack来说,这些都是默认的配置,我们甚至不需要做任何的修改。如果我们对我们的Elasticsearch已经设置用户名及密码的话,那么请填入你自己的用户名及密码。

Elastic cloud

如下的配置只限于Elastic Cloud。针对Elastic cloud,我们可以避免把我们的用户名及密码写到我们的filebeat.yml文件中,我们可以使用cloud.id来及keystore管理来帮我们实现。

我们首先在Terminal中打入如下的命令:

[code]./filebeat keystore create

接着打入如下的命令:

[code]./filebeat keystore add CLOUD_PWD

在这一步我们拷贝在Cloud中所创建的密码,并粘贴下来。

最后,我们修改我们的filebeat.yml文件

根据上面的提示,一旦我们设置好cloud.id,它将覆盖我们的output.elasticsearch中的设置。

启动/禁止Filebeat模块

我们可以通过如下的命令来展示所有Filebeat的模块:

[code]./filebeat modules list

在上面,我们可以看到redis模块已经被成功地启动了。如果我们想启动system模块,我们可以使用如下的命令:

[code]./filebeat modules enable system

上面的命令的返回结果是:

[code]Enabled system

如果我们想不启动redis模块,我们可以使用如下的命令:

[code]./filebeat modules disable redis

上面的命令的返回结果是:

[code]Disabled redis

我们可以使用如下的命令再次查询我们启动的模块:

在上面,我们可以清楚地看到redis模块已经被成功地关闭了,取而代之的是system模块被成功地启动了。我们可以在filebeat的安装目录下的modules.d子目录下可以查看到system模块的配置文件:

从上面我们可以清楚地看出来system.yml文件已经被成功地启动了。我们可以用我们所喜爱的编辑器来修改这个文件的配置。

启动Filebeat

在上面,我们已经成功地配置了filebeat,在接下来的步骤中,我们来启动Filebeat:

[code]./filebeat setup

setup命令将加载Kibana仪表板。 如果已经设置了仪表板,请忽略此命令。上面命令的输出结果为:

[code]./filebeat setup
Index setup finished.
Loading dashboards (Kibana must be running and reachable)
Loaded dashboards
Loaded machine learning job configurations
Loaded Ingest pipelines

在上面,我们可以看出来在setup这一步它帮我们配置好dashboard,装载机器学习及ingest pipleline。

我们接下来运行如下的命令来把我们的sysetm模块的数据送入到Elasticsearch之中:

[code]./filebeat -e

我们点击“Check data”按钮:

在Kibana中,我们可以看到已经收到数据。

运用Dashboard展示Filebeat数据

我们打开Kibana,并点击Dashboard应用:

我们选择“[Filebeat System] Syslog dashboard ECS”:

在上面它展示了我的电脑里的Syslog的所有log信息。我们也可以在上面选择“Sudo commands”,“SSH logins”及“New users and groups”分别进行查看。

从上面的展示我们可以查看来:Elastic公司除了提供一个强大的数据搜索引擎之外,也在Elastic Stack中提出了开箱即用的工具。我们只需要简单的几部配置,就可以很方便地把我们所需要的日志数据导入到Elasticsearch中进行分析。
 

Metricbeat

Metricbeat的使用和Filebeat的使用非常地相似。我们打开我们的自己的Kibana,并按照如下的步骤来进行安装:

由于Metricbeat是属于Metrics范畴,所以我们选择“Add metric data”:

同样地,针对我们的metrics,我们也想对sysem模块来做指标分析:

根据不同的平台,我们选择不同的方法进行安装。针对我的情况,我在我们的MacOS上进行安装。简单地说:

下载Metricbeat

我们首先安装如下的指令来下载并安装metribeat:

[code]curl -L -O https://artifacts.elastic.co/downloads/beats/metricbeat/metricbeat-7.5.0-darwin-x86_64.tar.gz
tar xzvf metricbeat-7.5.0-darwin-x86_64.tar.gz
cd metricbeat-7.5.0-darwin-x86_64/

配置Metricbeat

我们首先进入到Metricbeat的安装目录,我们可看到如下的文件:

[code] pwd
/Users/liuxg/elastic8/metricbeat-7.5.0-darwin-x86_64
liuxg-2:metricbeat-7.5.0-darwin-x86_64 liuxg$ ls
LICENSE.txt              fields.yml               metricbeat.reference.yml
NOTICE.txt               kibana                   metricbeat.yml
README.md                logs                     module
data                     metricbeat               modules.d

在安装目录的根目录下, 我们可以发现一个叫做metribeat.yml的文件。这个文件就是metricbeat的配置文件。我们用我们喜爱的编辑器,并打开这个文件。找到如下的部分:

[code]output.elasticsearch:
hosts: ["<es_url>"]
username: "elastic"
password: "<password>"
setup.kibana:
host: "<kibana_url>"

在上面,我们需要把我们的Elasticsearch及Kibana的host地址填上。针对我本地的情况,我填入localhost:9200和localhost:5601。如果是针对本地安装的Elastic Stack来说,这些都是默认的配置,我们甚至不需要做任何的修改。如果我们对我们的Elasticsearch已经设置用户名及密码的话,那么请填入你自己的用户名及密码。

Elastic cloud

如下的配置只限于Elastic Cloud。针对Elastic cloud,我们可以避免把我们的用户名及密码写到我们的metricbeat.yml文件中,我们可以使用cloud.id来及keystore管理来帮我们实现。

我们首先在Terminal中打入如下的命令:

[code]./metricbeat keystore create

接着打入如下的命令:

[code]./metricbeat keystore add CLOUD_PWD

在这一步我们拷贝在Cloud中所创建的密码,并粘贴下来。

然后修改我们的metricbeat.yml:

根据上面的提示,一旦我们设置好cloud.id,它将覆盖我们的output.elasticsearch中的设置。

启动/禁止Metricbeat模块

我们可以通过如下的命令来展示所有Metricbeat的模块:

在上面我们可以看出来redis模板已经被启动,其它的模块都被禁止。

如果我们想启动system模块,我们可以使用如下的命令:

[code]./metricbeat modules enable system

上面命令的返回结果是:

[code]Enabled system

如果我们想禁止redis模块,我们可以使用如下的命令:

[code]./metricbeat modules disable redis

上面命令的返回结果是:

[code]Disabled redis

我们可以使用如下的命令再次查询我们启动的模块:

我们可以看出来我们的redis模块已经从Enabled里移除了,取而代之的是system模块。

我们可以在metricbeat的安装目录下的modules.d子目录下可以查看到system模块的配置文件:

我们可以在system.yml中找到system模块的配置文件。

启动Metricbeat

在上面,我们已经成功地配置了metric,在接下来的步骤中,我们来启动Metricbeat:

[code]./metricbeat setup

setup命令将加载Kibana仪表板。 如果已经设置了仪表板,请忽略此命令。上面命令的输出结果为:

[code]./metricbeat setup
Index setup finished.
Loading dashboards (Kibana must be running and reachable)
Loaded dashboards

我们接下来运行如下的命令来把我们的sysetm模块的数据送入到Elasticsearch之中:

[code]./metricbeat -e

这个时候,我们在Kibana中点击“Check data”按钮:

我们可以看到数据已经被Elasticsearch成功收到了。

运用Dashboard展示Merticbeat数据

在Kibana中,我们点击Dashboard应用:

我们来点击“[Metricbeat System] Overview ECS”:

 

我们可以看到我们的电脑的system指标信息。我们也可以点击上面的“Host Overview”及“Container overview”。我们点击上面所示的liu-2.local host,我们可以看到关于这个host的所有的system信息:

 

下面的就留给你们自己探索了。

  • 点赞 2
  • 收藏
  • 分享
  • 文章举报
Elastic 中国社区官方博客 企业博客 发布了498 篇原创文章 · 获赞 120 · 访问量 87万+ 他的留言板 关注
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: