当前位置: 首页 > 编程日记 > 正文

Kibana + Elasticsearch + ik分词的集群搭建

Elasticsearc:

Elasticsearch 是一个分布式的搜索和分析引擎,可以用于全文检索、结构化检索和分析,并能将这三者结合起来。Elasticsearch 基于 Lucene 开发,是 Lucene 的封装,提供了 REST API 的操作接口,开箱即用,现在是使用最广的开源搜索引擎之一。

环境:

ubuntu18 64位 + docker

端口ip:

192.168.1.209:9200     // es01

192.168.1.209:9201     // es02

192.168.1.209:9202  // es03

Docker 要求 Ubuntu 系统的内核版本高于 3.10

脚本安装docker:

wget -qO- https://get.docker.com/ | sh

修改普通的用户执行的docke全局命令:

sudo usermod -aG docker diaoxin   //然后重启系统

查看docker:

docker version

启动docker 后台服务

sudo service docker start

添加国内docker镜像地址:

/etc/docker/daemon.json

sudo vim /etc/docker/daemon.json  //保存重启docker服务

拉取elasticsearch镜像:

docker pull elasticsearch:5.6

添加多个es的配置文件及数据卷:

//配置
sudo vim /etc/docker/es/es01.yml
sudo vim /etc/docker/es/es02.yml
sudo vim /etc/docker/es/es03.yml

// 数据卷
sudo vim /home/es/es01
sudo vim /home/es/es02
sudo vim /home/es/es03

yml配置文件内容:其余2个修改对应的参数

cluster.name:用于唯一标识一个集群,不同的集群,其 cluster.name 不同,集群名字相同的所有节点自动组成一个集群。默认值是:elasticsearch。
node.name:节点名,默认随机指定一个name列表中名字。集群中node名字不能重复
index.number_of_shards: 默认的配置是把索引分为5个分片 index.number_of_replicas:设置每个index的默认的冗余备份的分片数,默认是1 通过 index.number_of_shards,index.number_of_replicas默认设置索引将分为5个分片,每个分片1个副本,共10个结点。 禁用索引的分布式特性,使索引只创建在本地主机上: index.number_of_shards:
1 index.number_of_replicas: 0 但随着版本的升级 将不在配置文件中配置而实启动ES后,再进行配置
bootstrap.memory_lock:
true 当JVM做分页切换(swapping)时,ElasticSearch执行的效率会降低,推荐把ES_MIN_MEM和ES_MAX_MEM两个环境变量设置成同一个值,并且保证机器有足够的物理内存分配给ES,同时允许ElasticSearch进程锁住内存 network.bind_host: 设置可以访问的ip,可以是ipv4或ipv6的,默认为0.0.0.0,这里全部设置通过 network.publish_host:设置其它结点和该结点交互的ip地址,如果不设置它会自动判断,值必须是个真实的ip地址 同时设置bind_host和publish_host两个参数可以替换成network.host network.bind_host: 192.168.1.209 network.publish_host: 192.168.1.209 =>network.host: 192.168.1.209
http.port:设置对外服务的http端口,默认为9200 transport.tcp.port: 设置节点之间交互的tcp端口,默认是9300 http.cors.enabled: 是否允许跨域REST请求 http.cors.allow-origin: 允许 REST 请求来自何处
node.master:
true 配置该结点有资格被选举为主结点(候选主结点),用于处理请求和管理集群。如果结点没有资格成为主结点,那么该结点永远不可能成为主结点; node.data: true 配置该结点是数据结点,用于保存数据,执行数据相关的操作(CRUD,Aggregation); discovery.zen.minimum_master_nodes: //自动发现master节点的最小数,如果这个集群中配置进来的master节点少于这个数目,es的日志会一直报master节点数目不足。(默认为1)为了避免脑裂,个数请遵从该公式 => (totalnumber of master-eligible nodes / 2 + 1)。 * 脑裂是指在主备切换时,由于切换不彻底或其他原因,导致客户端和Slave误以为出现两个active master,最终使得整个集群处于混乱状态* discovery.zen.ping.unicast.hosts: 集群个节点IP地址,也可以使用es-node等名称,需要各节点能够解析

调高jvm的线程数:

添加:vm.max_map_count=262144

防止容器启动后出现以下错误:

启动es容器:

设置-e ES_JAVA_OPTS="-Xms256m -Xmx256m" 是因为/etc/elasticsearch/jvm.options 默认jvm最大最小内存是2G,启动容器后 可用docker stats命令查看

docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9200:9200 -p 9300:9300 -v /etc/docker/es/es01.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /home/es/es01:/usr/share/elasticsearch/data --name es01 elasticsearch:5.6
docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9201:9201 -p 9301:9301 -v /etc/docker/es/es02.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /home/es/es02:/usr/share/elasticsearch/data --name es02 elasticsearch:5.6
docker run -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9202:9202 -p 9302:9302 -v /etc/docker/es/es03.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /home/es/es03:/usr/share/elasticsearch/data --name es03 elasticsearch:5.6

浏览器访问查看状态:

主节点名称:带*号

192.168.1.209:9200/_cat/nodes?pretty

使用界面查看es状态:

pull镜像:

docker pull mobz/elasticsearch-head:5

启动镜像:

docker run -d -p 9100:9100 --name esh mobz/elasticsearch-head:5

浏览器访问:

http://192.168.9.219:9100

安装中文ik分词:

进入容器;

docker exec -it es03 /bin/bash

./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v5.6.4/elasticsearch-analysis-ik-5.6.4.zip

或者采用下载后上传去es各容器中:

docker cp /home/es/ik es03:/usr/share/elasticsearch/plugins

例:上传至es03容器中,其它容器分别上传,建议上传后自己重新生成镜像,保留 ik 分词

Kibana 获取及启动:

docker pull kibana:5.6.11  # 获取镜像
docker run --name kibana -e ELASTICSEARCH_URL=http://192.168.1.209:9200 -p 5601:5601 -d kibana:5.6.11 # 启动容器 

浏览器访问:

相关链接:加速镜像地址

文章参考:地址

客户端使用介绍:地址

转载于:https://www.cnblogs.com/xdtx/p/11044673.html

相关文章:

VOLTE parameter in Attach Request/Accept message

VOLTE字面上是:Voice over LTE. 但是人们所提到的VOLTE,实际上是指“Voice over LTE utilizing IMS” Attach Request/Accept消息中包含了VOLTE相关的参数。 1. Attach request 参考: 3GPP 24.301 – 8.2.4 关注红框内的3个参数: SrvccToGeranOrUtranCapability 参…

[YY题]HDOJ5288 OO’s Sequence

题意:求这个式子 $\sum \limits_{i1}^{n} \sum \limits_{j1}^{m} f(i, j) mod (10^9 7)$ 的值 就是对每个区间[i, j]枚举区间中的每个数$a_i$到$a_j$, 判断这个$a$是否对[i, j]这个区间内所有数取模都不等于0, 若是,则这个区间满足条件 问有…

python 读取excel文件 效率 时间 格式_python读取Excel文件中的时间数据

在使用python读取Excel文件中的时间格式,碰到的时间格式转换问题:读取这样的表格:输出这样的数据结果:然而这样的结果却不是我们想要的,我们需要的是这样的结果:1、安装python官方库---datetime引入datetime库import d…

操作无法完成后台打印程序无法运行

同事反映原共享的打印机无法打印。我删除重新添加时系统提示 操作无法完成后台打印程序无法运行。于是我打开服务找到print spooler服务进程设置自动开启后重新添加问题依旧。在网上查到的方法是病毒清了后你的 SPOOLSV.EXE文件就没有了,且在服务里你的后台打印print spooler也…

NodeJS 模块

cheerio 可以用jQuery操作DOM(服务器端) 转载于:https://www.cnblogs.com/tujw/p/11054252.html

Linux下netstat命令详解&&netstat -anp | grep 讲解

Netstat是控制台命令,是一个监控TCP/IP网络的非常有用的工具,它可以显示路由表、实际的网络连接以及每一个网络接口设备的状态信息。Netstat用于显示与IP、TCP、UDP和ICMP协议相关的统计数据,一般用于检验本机各端口的网络连接情况。

Linux命令——根据端口号查进程

查出的数据第二列(16615)是elasticsearch的进程号。通常我们会根据端口号查进程号,或者通过进程号查端口号。linux环境下,我们常常会查询进程号pid。最常用ps -ef |grep xx。根据端口port查进程。根据端口port查进程。根据进程pid查端口。根据进程pid查端口。

RRC Connection Reconfiguration

RRC Connection Reconfiguration Dir: E-UTRAN -> UE SRB: SRB1 这个消息用来修改RRC连接,主要目的: 1. To establish/modify/release Radio Bearers; 无线承载 2. To perform Handover; 切换 3. To setup/modify/release Measurements; 测量…

H - Parity game-poj1733(需要离散化)

题意:给一个序列这个序列都是由0和1组成,现在随意拿出来一个序列,然后说出他的和是奇数还是偶数,因为有可能存在假话,让你判断前多少条没有假话,也就是查找第一个假话的位置-1//这道题很像D题,都…

redis 缓存过期默认时间_缓存的必知必会:一文搞懂Redis持久化和过期机制

本文主要介绍了 Redis 持久化的两种机制:RDB 和 AOF,以及键过期的策略:惰性删除和定期删除,还有 RDB、AOF 和复制功能对过期键的处理。RDBRDB 是 Redis 持久化的第一种方式。有两个 Redis 命令可以用于生成 RDB 文件,一…

ASP.NET MVC 5 - 视图

2019独角兽企业重金招聘Python工程师标准>>> 在本节中,你要去修改HelloWorldController类,使用视图模板文件,在干净利索地封装的过程中:客户端浏览器生成HTML。 您将创建一个视图模板文件,其中使用了ASP.NE…

java内存泄漏问题排查

背景:程序部署在客户机器上,不定期异常崩溃,且无日错误异常日志记录。 day1:初步排查是内存问题导致的,考虑使用分析工具记录分析。另外代码review仔细排查,怀疑有可能跟大量网络socket没有释放有关。 程序…

的正确使用_弹力袜的正确使用

何为弹力袜?弹力袜是预防下肢静脉疾病的重要措施,其设计上远心端压力大,近心端压力小。医用循序减压弹力袜在脚踝部建立最高支撑压力,顺着腿部向上逐渐递减,在小腿肚减到最大压力值的70%-90%,在大腿处减到最大压力值的…

yii2的安装

yii2也是依赖于composer, 就像laravel, 所以先安装composer, 如果安装不上composer可以看laravel安装的文章. 安装好composer之后安装一个插件 composer global require "fxp/composer-asset-plugin:1.0.0"或composer global require "fxp/composer-asset-plugi…

eclipse new server Cannot create a server using the selected type 网上有两种办法,其实原理一样...

eclipse new server Cannot create a server using the selected type 网上有两种办法,其实原理一样第一种说法:还真的找到解决的方法了,如下:1.退出eclipse2.到[工程目录下]/.metadata/.plugins/org.eclipse.core.runtime3.把org.eclipse.wst.server.co…

代码示例_网络编程_select

select_多路复用 1.头文件 1 #pragma once2 3 #include <stdio.h>4 #include <stdlib.h>5 #include <sys/types.h>6 #include <sys/select.h>7 #include <sys/time.h>8 #include <sys/socket.h>9 #include <strings.h> 10 #include …

LTE中基本通信过程的理解——上行调度

上行调度1. UE向ENB请求上行资源Physical channel: PUCCHMessage: SR (schedule request)根据上层的配置UE按照一定的周期和子帧位置上通过PUCCH中的控制消息UCI传输SR【RACH成功之后&#xff0c;ENB配置UE的SR子帧位置和发送周期&#xff0c;如果接入UE过多周期就长&#xff0…

qrcode生产带logo_“白板”口罩打上LOGO装名牌 警方重拳出击清市场

看看新闻Knews记者 毛鸿仁2020-09-17 10:19假冒口罩危害大&#xff0c;无良商家被查处。近日&#xff0c;上海松江警方侦破了一起假冒品牌口罩的案件&#xff0c;犯罪嫌疑人赵某等人被松江警方依法采取刑事强制措施。7月下旬&#xff0c;上海市公安局松江分局通过警企协作&…

Tomcat 服务器的端口号的修改

在系统中找到Tomcat安装目录下的conf文件夹下的servlet.xml文件。 &#xff08;1&#xff09;在servlet.xml文件中找到以下代码&#xff1a; <connector port"8080" protocol"HTTP/1.1" connectionTimeout"20000" redirectPort"8443&q…

js获取宽度设置thickbox百分比

thickbox的宽高不好设为百分比&#xff0c;这样遇到不同的尺寸的电脑就会出现问题。 怎么做呢&#xff1f; 通过js来处理。 <script type"text/javascript">$(function(){var width window.screen.width;//通用&#xff0c;各浏览器都支持获取宽度width widt…

【算法总结】数学问题-最大公约数和最小公倍数

【算法总结】最大公约数和最小公倍数 一、最大公约数&#xff08;GCD&#xff1a;greatest common divisor&#xff09; 欧几里得算法&#xff1a; 若 a、b 全为零则它们的最大公约数不存在&#xff1b;若 a、b 其中之一为零&#xff0c;则它们的最大公约数为 a、b 中非零的那个…

javascript 手势缩放 旋转 拖动支持:hammer.js

原文&#xff1a; https://cdn.rawgit.com/hammerjs/hammer.js/master/tests/manual/visual.html /*! Hammer.JS - v2.0.4 - 2014-09-28* http://hammerjs.github.io/** Copyright (c) 2014 Jorik Tangelder;* Licensed under the MIT license */ (function(window, document, …

探测参考信号(Sounding Reference Signal)

SRS是探测参考信号的缩写&#xff0c;所谓参考信号&#xff0c;那么是为谁提供参考&#xff1f;参考的指标是什么&#xff1f;答案是为eNodeB的调度提供参考&#xff0c;参考的内容是为上行信道质量做参考。那么为什么需要SRS呢&#xff1f;众所周知&#xff0c;在LTE网络中&am…

机器人瓦力船长机器人_警察“瓦力”来啦!机器人巡逻南京路 这样的它你喜欢吗?...

电影“瓦力”中的机器人主角瓦力让人印象深刻&#xff0c;这两天&#xff0c;一台形似瓦力的机器人出现在了南京路步行街上&#xff0c;一下子就成为了这条街上“最靓的仔”&#xff0c;实际上&#xff0c;它是一台功能强大的警用巡逻机器人。“我正在南京路步行街执行巡逻任务…

转 mac svn用法

mac svn 删除.svn隐藏文件的命令 打开终端,进到所在的目录,然后出入一下代码 find . -name ".svn" | xargs rm -Rf 1、将文件checkout到本地目录svn checkout path&#xff08;path是服务器上的目录&#xff09;例如&#xff1a;svn checkout svn://192.168.1.1/pro/…

MySQL图形处理软件Navicat字体配置(乱码解决)

设置字体 1.常规 Noto Sans Mono CJK TC Regular 2.编辑器 Noto Sans CJK SC Regular 3.记录 Noto Sans Mono CJK TC Regular 转载于:https://www.cnblogs.com/jrri/p/11075040.html

Corn Fields(POJ 3254状压dp)

题意: n*m网格1能放0不能放 放的格子不能相邻 求一共多少种可放的方案。 分析&#xff1a; dp[i][j]第i行可行状态j的的最大方案数&#xff0c;枚举当前行和前一行的所有状态转移就行了&#xff08;不放牛也算一种情况&#xff09; #include <map> #include <set> …

批量关闭公众号推送_微信推出“一键拒收”长期未读公众号推送功能

近期已经写了不少关于微信的消息了&#xff0c;本来想换个话题休息一下&#xff0c;谁知道微信不休息啊&#xff0c;又开始内测了。7月25日&#xff0c;部分iOS内测微信用户会收到系统对长时间未读订阅号的提醒&#xff0c;并可通过提醒入口选择不接收这部分订阅号的群发消息推…

如何用DNS+GeoIP+Nginx+Varnish做世界级的CDN

如何用BIND, GeoIP, Nginx, Varnish来创建你自己的高效的CDN网络&#xff1f;CDN&#xff0c;意思是Content Distrubtion Network&#xff0c;意思是内容分发网络&#xff0c;简单的说&#xff0c;就是全地域范围内的负载均衡&#xff0c;全地域的概念可以是全国&#xff0c;也…