Elasticsearch

yanagishimaとElasticsearch

Elasticsearch 6.3になってSQLがサポートされたのですが、KibanaからだとDiscoverからはクエリ投入できなくてDev Toolsから実行するしかないです。https://www.elastic.co/guide/en/elasticsearch/reference/6.3/xpack-sql.htmlそのうちDiscoverからはクエリ…

Elasticsearch/Kibanaを6.2.2から6.3.0にupgradeした

6.3.0のrelease blogはこちら https://www.elastic.co/blog/elasticsearch-6-3-0-released https://www.elastic.co/blog/kibana-6-3-0-released6.3.0からX-Packが標準で含まれるようになったのでインストールは不要で、最初からBasic Licenseが適用されてい…

Elasticsearch実践ガイドを読んでみた

Elasticsearch実践ガイド impress top gearシリーズ作者: 惣道哲也出版社/メーカー: インプレス発売日: 2018/06/15メディア: Kindle版この商品を含むブログ (1件) を見る目次 第 1 章 Elasticsearch とは 1-1 Elasticsearch が登場した背景 1-2 Elasticsearc…

Elasticsearch, Kibanaを5.6.2から6.1.2にupgradeした

といっても上書きupgradeじゃなくて新旧2つのElasticsearchにdouble writeして切り替えました。うちの環境だとfluentd→kafka→kafka-fluentd-consumer→fluentd→Elasticsearchという経路でElasticsearchに書き込んでいます。 fluentdは0.12系を使っています。 …

ElasticsearchのCircuitBreaker

最近Elasticsearch 5.2.2を使っているときにOutOfMemoryが発生したことがあって、そのときにログを見ると下記のようにCircuitBreakerも発動してた。 Caused by: org.elasticsearch.common.breaker.CircuitBreakingException: [request] Data too large, data…

es_rejected_execution_exceptionが出たのでthread_pool.bulk.queue_sizeを増やした

題記の通りです。fluent-plugin-elasticsearch 1.9.3からElasticsearch 5.3に書き込んでから下記のようなエラーがたまに出てるのに気付きました。 Could not push log to Elasticsearch: {...{"index"=>{"_index"=>"hoge-2017.03.31", "_type"=>"fluentd", "…

Elasticsearch, Kibanaを5.0.1から5.2にアップグレードした

題記の通りです。リリースブログはこちら Elasticsearch 5.2.0 released | Elastic Kibana 5.2.0 released | Elastic Elasticsearchは下記手順でアップグレードした。 Rolling upgrades | Elasticsearch Reference [5.2] | Elasticアップグレード前にElastic…

fluent-plugin-elasticsearchでCannot get new connection from poolが出た

題名の通りで動作環境は以下の通りです。 Elasticsearch側はcerebroで見る限りgreenで正常に見えました。 fluentd 0.12.27 fluent-plugin-elasticsearch 1.9.0 Elasticsearch 5.0.1 fluentdの設定はこんな感じ <match ...> type forest subtype elasticsearch <template> hosts ..</template></match>…

Elasticsearch 2.4から5.0.1にアップグレードしていろいろはまった

手元でカジュアルに運用しているElasticsearch 2.4(2.4.1だったかも)をえいやと5.0.1に上書きアップグレードしていろいろはまったのでメモっておく。その前にElasticsearch 5がどんな感じなのかはwyukawa's tumblr, johtaniさんとElasticsearchについて話し…

Elasticsearchのモニタリング

今まではElasticSearch Headでシャードやノードの状態見てたんだけど、最近はGitHub - lmenezes/elasticsearch-kopf: web admin interface for elasticsearchを使い始めた。こっちのほうが良いね。index templateも見れるし。Marvelは最初は良いと思ったけど…

fluentdからElasticsearchに書き込んだ際の運用メモ

fluentdからfluent-plugin-elasticsearchを使ってElasticsearchに書き込む部分でたびたびfluentdが詰まって苦労してたけど最近は落ち着いてきたのでその辺を備忘録としてメモっています。最初はfluentdからElasticsearchに1プロセスで直接書き込んでいたけど…