share facebook facebook2 twitter menu hatena pocket slack

2015.11.30 MON

CloudTrailのログをKibanaで確認する(CloudWatch → Lambda → Elasticsearch)

鈴木 宏康

WRITTEN BY鈴木 宏康

AWSから「Elasticsearch Service (ES)」というものが発表され使えるようになりました。
(東京リージョンでも使えます)

【AWS発表】Amazon Elasticsearch Service

このサービスはKibanaも同時に利用でき、簡単にElasticsearchのデータを
Kibanaで分析することが可能となります。

また、AWSコンソールからのみの設定で、下記のようにCloudTrailのログを
ESまで持っていくことが可能にもなっていました。

Untitled (19)

ということで、早速、CloudTrailのログをKibanaみるところまでを、
AWSコンソールを「ポチポチ」するだけで実現することを試してみました。

大雑把な流れは次の通りです。

  1. CloudTrailの設定
    • 有効化とCloudWatch Logsへの配信設定を行います。
  2. ESの設定
    • ES(クラスター)の作成を行います
  3. CloudWatchの設定
    • 配信されたCloudTrailのログをESにストリーミングする設定を行います。
  4. Kibanaの設定
    • ESの情報を設定しデータが表示されるようにします。

それでは、具体的な手順をを紹介していきます。

CloudTrailの設定

当然、CloudTrailを有効にします。
2015-10-07_15-55-56

適当にS3のバケットを指定します。(重要でない)
2015-10-07_15-59-47

ログをCloudWatch Logsに配信する設定をします。(重要!)

2015-10-07_16-00-52
2015-10-07_16-03-16

最後に確認です。
2015-10-07_16-08-38

少し時間を置いてS3を確認すると、上記で指定したバケットに
CloudTrailのログが出力されていることがわかります。

2015-10-07_16-22-29

CLoudWatch Logsを確認すると、上記で指定した(デフォルト値)ロググループが
作成されていることも確認できます。

2015-10-07_16-26-07

ES(Elasticsearch Service)の設定

まずはドメインを作成します。

2015-10-07_16-32-56

2015-10-07_16-36-18

クラスターの設定をします。(とりあえずデフォルト)

2015-10-07_16-38-04

2015-10-07_16-38-53

アクセスポリシーの設定をします。(とりあえずデフォルト)
※このままだとKibanaにアクセスできなかったので、後ほど変更します。

2015-10-07_16-43-01

最後に確認です。

2015-10-07_16-44-27

作成すると、まずはLoading状態になります。

2015-10-07_16-46-01

しばらくすると状態がActiveになり、利用できるようになります。

2015-10-07_16-59-48

CloudWatchの設定

ES作成時に作られたロググループに対して、
ESにログをストリーミングする設定をします。

2015-10-07_16-29-55

ESのクラスターを指定します。クラスターは上記で作成したものとしています。

2015-10-07_17-02-34

IAMロールは新規に(デフォルトで)作成します

2015-10-07_17-03-28

2015-10-07_17-04-26

ログフォーマットの指定は当然CloudTrailです。

2015-10-07_17-07-27

最後に確認です。

2015-10-07_17-08-28

作成すると、Kibanaへのリンクが表示されます。

2015-10-07_17-09-17

Kibanaにアクセスすると、アクセス制限に引っかかりました。これは、
ESのアクセスポリシーの設定時にデフォルト(全部不許可)にしてしまったためです。

2015-10-07_17-12-17

ということで、アクセスポリシーをESのコンソールから変更します。

2015-10-07_17-14-22

とりあえずオープンアクセスにしちゃいました。(要注意!)

2015-10-07_17-16-03

変更の反映に少し時間がかかります。

2015-10-07_17-18-13

反映が終わるとステータスが再びActiveになります。

2015-10-07_17-30-00

再度Kibanaにアクセスすると、今度は表示されました。

2015-10-07_17-30-51

Kibanaの設定

まずはESのコンソールからKibanaに設定すべき情報の確認を行います。

2015-10-08_10-28-23

Kibanaにアクセスして最初に表示される設定画面で上記の値を設定します。

2015-10-08_10-25-02

設定後、Discoverのタブを開きます。

2015-10-08_10-31-42

するとCloudWatchのログと集計結果(グラフが)が、それっぽく表示しているのを
確認することができると思います。

2015-10-08_10-33-30

ちなみに自動で作成されたLambda Functionです。

2015-10-08_10-48-30

元記事はこちら

CloudTrailのログをKibanaで確認する(CloudWatch → Lambda → Elasticsearch)

鈴木 宏康

鈴木 宏康

愛知県生まれ。東京工業大学大学院修士課程修了。在学時より、ベンチャー企業でインターネットに関する業務に携わり、現在はクラウド(主にAmazon Web Services)上での開発・運用を軸とした事業の、業務の中心として活躍。