CLOVER🍀

That was when it all began.

Elasticsearch

Ubuntu Linux 22.04 LTSにElasticsearch 8をシングルノード、非HTTPSでインストールする

これは、なにをしたくて書いたもの? Elasticsearch 8を、シングルノードで簡単に使えるようにセットアップしたいなということで。 以前、少しやってちょっとハマったので、今回はちゃんと見てまとめておくことにしました。 やりたいことは、以下の条件のEla…

TypeScriptでElasticsearchにアクセスしてみる

これは、なにをしたくて書いたもの? ElasticsearchのJavaScriptクライアントのドキュメントを見ると、TypeScriptのサポートがありそうだったので こちらを使ってElasticsearchにアクセスするコードを書いてみようかなと。 TypeScript support | Elasticsear…

Elasticsearchクラスタで、SSL/TLSの設定をする

これは、なにをしたくて書いたもの? 以前、ElasticsearchのシングルノードでX-Pack Securityの簡単な設定をしてみました。 Elasticsearch(シングルノード)で、認証・認可設定をする - CLOVER 今度は、クラスタとして構成したElasticsearchで行ってみたい…

Elasticsearch(シングルノード)で、認証・認可設定をする

これは、なにをしたくて書いたもの? Elasticsearchのセキュリティまわりを勉強しようかなぁと思いまして。まずは、認証からかな、と。 無料の暗号化とユーザー認証で、Elasticsearchクラスターを安全に保つ | Elastic Blog SSL、TLS、HTTPSを設定してElasti…

ElasticsearchのIndex Lifecycle Management(ILM)を使って、指定された期間を過ぎたインデックスを削除する

これは、なにをしたくて書いたもの? Elasticsearch 6.6.0から、Index Lifecycle Management(ILM)というものが入っているようなので、こちらを試してみようかなと。 Release Notes / Elasticsearch 6.6.0 / New features Index Lifecycle Management ・ Ad…

Elasticsearchクラスタで必要なシャード数、ノード数を計算する

これは、なにをしたくて書いたもの? Elasticsearchクラスタのシャード数やノード数を算出する時の考え方についていろいろ調べたので、メモをしておこうかなと。 Elasticsearchクラスタでのシャード数とノード数を計算する 基本となるのは、以下のブログエン…

ElasticsearchにCSVファイルの内容をロードする(CSVモジュール & Pandas)

これは、なにをしたくて書いたもの? Elasticsearchに、CSVファイルで用意されたデータをロードする、簡単なスクリプトを書いてみようかなぁと。 こういうのは、バルクローダー的なものでやったり、なにかツールを使ったりすることが多いように思いますが、…

Filebeatで読み込んだログを、LogstashでパースしてElasticsearchに放り込む

これは、なにをしたくて書いたもの? 先日、Filebeatでログファイルを取り込む時に、ElasticsearchのIngest Nodeを使ってパースすることを試してみました。 Filebeatでログファイルを取り込む時に、Ingest Nodeのパイプラインを合わせて使う - CLOVER 今度は…

Filebeatでログファイルを取り込む時に、Ingest Nodeのパイプラインを合わせて使う

これは、なにをしたくて書いたもの? この前、ElasticsearchのIngest Nodeと、FilebeatのMultiline Messageを試してみました。 ElasticsearchのIngest Nodeを試す - CLOVER Filebeatで、複数行のログをElasticsearchに取り込んでみる - CLOVER 今度は、この2…

Filebeatで、複数行のログをElasticsearchに取り込んでみる

これは、なにをしたくて書いたもの? Filebeatで、複数行で書かれたログを読む時の設定、挙動を確認してみようかなと思いまして。 環境 今回の環境は、こちら。 $ lsb_release -a No LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu…

ElasticsearchのIngest Nodeを試す

これは、なにをしたくて書いたもの? Filebeatを見ていて、パイプラインやモジュールを覚えようと思うと、Ingest Nodeを知らなければいけないなぁと思い。 ちょっと、Ingest Nodeを試してみることにしました。 環境 今回の環境は、こちら。 $ lsb_release -a…

FilebeatのLog inputをシンプルに見る

これは、なにをしたくて書いたもの? Filebeatの設定で以下のような感じで最初に出てくる、 - type: log paths: - /var/log/*.log 「log」ってなんだろう?と思ったので、少し見てみようかなと。 環境 今回の環境は、こちら。 $ lsb_release -a No LSB modul…

Filebeatで、ApacheのログをElasticsearchに取り込んでみる

これは、なにをしたくて書いたもの? ちょっとFilebeatを試してみようかなと。 まだ感覚がわからないので、まずは手始めにApacheのログを取り込むようにしてみたいと思います。 環境 今回の環境は、こちら。 $ lsb_release -a No LSB modules are available.…

Elasticsearch、Logstashで使える、事前定義されたGrokパターンについて

Grokを使ってパースを行う時に、事前定義されたパターンがあるのですが、この意味や確認方法をコロッと忘れそうな気がとてもするので。 メモとして。 Elasticsearch、Logstashも、7.4系を対象にこのエントリを書いています。 Elasticsearchは、こちら。 http…

Apache 2.0 LicenseのElasticsearch、KibanaをUbuntu Linux 18.04 LTSにインストールする

これは、なにをしたくて書いたもの? ElasticsearchやKibanaをインストールする際に、Elastic LicenseのものとApache 2 Licenseのものでインストール方法が異なることに 気づいていなかったので、メモとして。 よくよく見ると、ダウンロードページから異なる…

Elasticsearchでクラスタを構成してみる(Settings-based seed hosts provider利用)

これは、なにをしたくて書いたもの? そういえば、Elasticsearchを使ってクラスタを組んだことがないなぁと思いまして。 1度、試しておこうかなと。 環境とお題 Elasticsearch 3台を、シンプルにデフォルトのSettings-based seed hosts providerを使ってクラ…

OKD/Minishift上で、FluentdをDaemonSetとして実行してログを収集…しようとした話

これは、なにをしたくて書いたもの? Kubernetes上でログの収集・集約といえば、DaemonSetでFluentd これを、OKD(Minishift)上で試してようかなと そんな思いつきで始めたのですが、うまくいかなかったという話です。 最初に OKDには、FluentdとElasticsea…

Infinispanの検索のバックエンドにElasticsearchを使う

Infinispan 9から実験的な扱いとして入っていた、検索のバックエンドにElasticsearchを使うElasticsearch IndexManagerですが (正確にはHibernate Searchが利用)、Infinispan 9.1.1.Finalで依存関係に入っているHibernate Searchが5.8.0.Finalに なったの…

WildFly SwarmのログをLogstashに突っ込む

WildFly Swarmには、Logstash用のFractionがあります。こちらを使うと、アプリケーションやWildFly Swarm自身が 出力するログを、Logstashに送ることができるようです。Logstash追加設定自体は、Maven依存関係を加えることと、 <dependency> <groupId>org.wildfly.swarm</groupId> <artifactId>logstash</artifactId> </dependency>…

ElasticsearchのJavaScriptクライアントを試す

ElasticsearchはふだんJavaかcurlで使っているのですが、ちょっとJavaScriptの クライアントも試してみたいなと思いまして。elasticsearch.jsJava以外のプログラミング言語でのクライアントプログラミングをちょっと 覚えておこうというのが趣旨です。今回は…

ElasticのDockerイメージを使って、ElasticsearchとKibanaを使う

最近ElasticsearchとKibanaのDockerイメージに、DockerHubのものを使ってみたのですがelasticsearch (OFFICIAL REPOSITORY)kibana (OFFICIAL REPOSITORY)@johtaniさんに怒られまして…。 ElasticsearchのDockerイメージ、自分でビルドして作ってたけど5系から…

ElasticsearchとKibanaでタグクラウドを作って遊ぶ(Elasticsearch Spark利用)

Elasticsearch Advent Calendarで出ていた、こちらのエントリを見て、面白そうだなぁと思いまして。Elasticsearch、Logstash、Kibana、Kuromojiでタグクラウドを作る - Taste of Tech Topicsこれを見てパッと思ったのは、タグクラウドにする単語を「名詞」に…

Elasticsearch 5.0.0のREST Clientを試す

Elasticsearch 5.0.0から、REST API用のJava向けClientが追加されたということで。https://www.elastic.co/guide/en/elasticsearch/reference/current/release-notes-5.0.0.htmlこれまで、ElasticsearchのオフィシャルなJava向けのClientといえば、NodeClien…

Ubuntu LinuxにElasticsearch 5.0.0、Kibana 5.0.0をインストールする

Elastic Stack 5.0.0がリリースされたということで。自分は、ElasticsearchとKibanaを時々使っているので、まずはインストールしてみようかと。今回は、Elasticsearch 5.0.0とKibana 5.0.0をインストールして、Kibanaで見れるようにするところまでやってみま…

ElasticsearchのApache Sparkサポート機能で遊ぶ

Elasticsearchに、Apache Spark向けのライブラリがあることは知っていたのですが、長らく手をつけていないままだったので、1度試してみることにしました。Apache Spark support | Elasticsearch for Apache Hadoop [2.3] | Elasticこちらを使うことで、Apach…

Hibernate Search × Elasticsearch

Hibernate Searchの5.6に向けて、Alphaリリースが続いています。現在は、Alpha3です。Hibernate Search 5.6では、Elasticsearchとの統合が試験的に追加されます。Hibernate Search 5.6.0.Alpha2 introduces Elasticsearch integration - In Relation ToThird…

第15回elasticsearch勉強会に参加してきました #elasticsearch #elasticsearchjp

リクルートテクノロジーズで行われた、第15回elasticsearch勉強会に参加してきました。第15回elasticsearch勉強会 #elasticsearch #elasticsearchjp - elasticsearch勉強会 | Doorkeeper実は、初めての勉強会への参加です。今まで仕事が忙しかったり、勉強会…

はじめてのKibanaでグラフ表示

ElasticsearchとKibanaを動かせる環境を作ったので、今度は何かしらグラフ表示してみたいと思います。Docker Composeで、ElasticsearchとKibanaを試す環境を作る - CLOVERネタはどうしようかなぁと思ったのですが…自分のブログ(http://d.hatena.ne.jp/Kazuh…

Docker Composeで、ElasticsearchとKibanaを試す環境を作る

Elasticsearchを最近単体で使って遊んでいたのですが、そろそろKibanaも使ってみたいなと思いまして。Kibana: Explore, Visualize, Discover Data | ElasticKibanaのインストール方法を見つつ、自分はElasticsearchはDockerコンテナ内で遊んでいることが多い…

ElasticsearchのSuggesterで、サジェストを試してみる

ファセットに続いて、サジェストをElasticsearchで試してみようと思います。Elasticsearchでは、Suggesterというものを使うことになるみたいです。Suggesters | Elasticsearch Reference [6.4] | Elastic参考になりそうなエントリも、ちらほらと。RailsでEla…