社内se × プログラマ × ビッグデータ

プログラミングなどITに興味があります。

ELK

Kibana UI から Index へ document の投入

ELK

Indexの作成 Index 名: products shardsの数: 2 replicasの数: 2 Document の投入 実行するクエリ /index名/_doc に続いて Json 形式で指定する。 レスポンス shards がトータルで3つ(メイン1つ、レプリカ2つ)出来ていることが分かる。 _id は自動的に生…

Kibana UI から Index の作成と削除 (elasticsearch)

ELK

Index の作成 Index 名: products shardsの数: 2 replicasの数: 2実行するクエリ レスポンス Index の削除 実行するクエリ レスポンス テスト用に Index を作成・削除するだけなら非常に簡単に出来る。 本番環境用に作成する場合、shardsやreplicasの数は設…

Master node (elasticsearch)

ELK

Master node とは Elasticsearch のノードの役割の一つで、クラスタ全体の処理(シャードの配置等)を行うノード。 Master-eligibleとは master に候補になるノード。 master node が死んだときには master eligible node から新たな master が選ばれる。 設…

Elasticsearch における Replication

ELK

Replication レプリケーションとは フォールトトレラントとしてレプリケーションをサポートしている ※システムの一部に問題が生じても全体が機能停止するということなく動作し続けるようなシステム Elasticsearch においてレプリレーション機能はデフォルト…

Kibana から クエリを初めて実行してみる

ELK

elasticserarch クラスタの状態などを知るためのコマンド入門。 elasticserarch クラスタの状態を知る _cluster API と node や インデックス情報を取得する _cat API が良く使われそう。 問題が発生したときに主に使われると思われるが、実際に運用しつつ、…

(自分用) Elasticsearch Quiz 1

ELK

Q1. Elasticsearch 用のメイン設定ファイル名は ?Q2. データやログのディレクトリを Elasticsearch がインストールされているディレクトリの外部に配置することが推奨される理由は ?Q3. jvm.options ではヒープサイズの設定が重要だが、最低でも ? GB以上の…

Elastalert を MailCatcher で動作確認

MailCatcher とは シンプルなSMTPサーバ、ただし実際にはメールを宛先に転送せずに、WebUI上で一覧することができるもの。 ローカル環境でメール送信のテストをするのに便利そうです。 また、Docker のイメージも(何方かが)作成されたものがあります。今回…

Elastalert filter を試す

使用する Docker image filebeat 機能を含めたこちらのイメージを使って試していきます。 github.com参考:イメージ作成時の記事 https://blueskyarea.hatenablog.com/entry/2020/05/13/235521 gmail 用 User と Password 設定 $ vim elastalert/pass/smtp_au…

Docker で filebeat も試す

公式に filebeat 用の Docker Image が提供されているので、簡単に試すことが可能です。 filebeat からデータを投入する elasticsearch については、以下の記事で作成したイメージを使っていきます。 blueskyarea.hatenablog.com ディレクトリ構造 上記の記…

ELK stack で store of data

ELK

目的もなくデータ収集していきます。環境構築 Docker で ELK stack (version 7.6.2) Docker で filebeat も試す docker image を使って Elasticsearch & Kibana を実行してみるまで 基本 Elasticsearch のディレクトリ構成を見てみる Kibana から クエリを初…

Docker で ELK stack (version 7.6.2)

ソース github.com ディレクトリ構造 ├── docker-compose.yml ├── elasticsearch │ ├── config │ │ └── elasticsearch.yml │ └── Dockerfile ├── kibana │ ├── config │ │ └── kibana.xml │ └── Dockerfile ├── logstash │ └── Dockerfile └── README.md ela…