1. 项目概述为什么需要自己动手搭建ES集群如果你正在处理日志分析、商品搜索或者任何需要处理海量非结构化数据的业务那么Elasticsearch简称ES这个名字你一定不陌生。它是一个基于Lucene的分布式搜索和分析引擎以其近乎实时的搜索能力和强大的水平扩展性著称。而Kibana则是ES官方的数据可视化和管理工具可以让你通过图形界面轻松地查询数据、制作仪表盘。网上关于ES的教程很多但很多要么版本老旧要么步骤跳跃对于刚接触的同学来说照着做很容易掉进各种坑里。特别是从ES 7.x升级到8.x后安全功能如TLS/SSL加密默认开启配置方式有了不小变化这让很多“一键安装”脚本直接失效。自己动手在Linux上从零搭建一个ES-8.x集群不仅是为了“安装成功”更是为了理解其核心架构和配置逻辑。当你亲手配置好节点发现、分片分配和安全管理后面对线上环境出现节点宕机、证书过期或者性能瓶颈时你才能心里有底知道从何下手排查。这篇内容就是带你走一遍这个“从懵懂到通透”的完整过程我会把每一步的原理、踩过的坑和最佳实践都揉碎了讲清楚。2. 环境准备与核心概念扫盲在开始敲命令之前我们必须把地基打牢。这包括准备好硬件环境以及理解几个关键概念否则后面的配置对你来说就只是一堆莫名其妙的参数。2.1 硬件与系统要求首先你需要至少两台Linux服务器虚拟机或物理机均可来组成集群。单节点也能运行但那叫“单机模式”失去了ES“分布式”的核心价值也无法体验故障转移。这里我们以三台服务器为例模拟一个经典的小规模生产环境。服务器规划node-1: 192.168.1.101 (计划作为初始主节点)node-2: 192.168.1.102node-3: 192.168.1.103系统要求操作系统 推荐CentOS 7/8、Ubuntu 20.04/22.04等主流发行版。本文以CentOS 7为例。Java环境 ES 8.x需要JDK 17或更高版本。重要提示不要使用系统自带的OpenJDK 1.8版本不匹配会导致启动失败。我们将使用ES自带的JDK这是最稳妥的方式。资源要求内存 ES是内存消耗大户建议每台机器至少4GB内存。生产环境根据数据量评估JVM堆内存一般设置为系统总内存的50%且不超过32GB超过32GB会因指针压缩失效反而降低性能。磁盘 使用SSD磁盘能极大提升性能。确保有足够的空间存储数据。网络 集群内节点需要稳定的网络通信防火墙需开放相关端口。前置操作在所有节点上执行关闭防火墙和SELinux仅用于实验环境生产环境需配置安全组或firewalld规则systemctl stop firewalld systemctl disable firewalld setenforce 0 sed -i s/SELINUXenforcing/SELINUXdisabled/g /etc/selinux/config修改主机名并配置hosts解析 让节点之间可以通过主机名互相访问这比直接用IP更清晰。# 在node-1上 hostnamectl set-hostname node-1 # 在node-2上 hostnamectl set-hostname node-2 # 在node-3上 hostnamectl set-hostname node-3 # 编辑所有节点的 /etc/hosts 文件添加以下内容 192.168.1.101 node-1 192.168.1.102 node-2 192.168.1.103 node-3调整系统参数 ES需要较多的文件描述符和虚拟内存映射区域。# 编辑 /etc/security/limits.conf在文件末尾添加 * soft nofile 65536 * hard nofile 65536 * soft nproc 4096 * hard nproc 4096 # 编辑 /etc/sysctl.conf添加或修改 vm.max_map_count262144 # 使sysctl配置生效 sysctl -p注意修改limits.conf后需要重新登录终端会话才能生效。你可以通过ulimit -n和ulimit -u命令来验证。2.2 Elasticsearch集群核心概念解析搭建集群前必须理解这几个名词否则配置文件对你就是天书节点Node 一个运行中的ES实例。每个节点都有唯一的名称node.name。集群Cluster 由一个或多个拥有相同cluster.name的节点组成。它们共同持有全部数据并提供跨节点的联合索引与搜索能力。主节点Master-eligible Node 负责管理集群范围内的所有变更如创建或删除索引、跟踪节点加入或离开、决定分片分配给哪个节点等。一个集群有且仅有一个活跃的主节点。数据节点Data Node 存储数据并执行与数据相关的操作如CRUD、搜索和聚合。我们搭建的节点通常既是主节点候选者也是数据节点。分片Shard ES将索引细分为分片。每个分片本身就是一个功能完整的Lucene索引。分片分为主分片Primary Shard 存储数据的原始分片。索引创建时定义后续不可更改ES 8.x默认是1个。副本分片Replica Shard 主分片的拷贝用于提供高可用性和提升读取性能。可以动态调整。发现Discovery 节点如何找到彼此并组成集群的过程。对于自建集群我们通常使用discovery.seed_hosts来指定种子节点列表。理解了这些你就知道我们接下来的配置本质上就是在告诉每个节点“你叫什么名字node.name”、“你属于哪个帮派cluster.name”、“去哪找组织discovery.seed_hosts”以及“你在组织里负责什么工作node.roles”。3. 分步实操Elasticsearch 8.x集群部署现在我们开始真正的安装和配置。请严格按照顺序在三台服务器上执行相同的步骤。3.1 下载与安装Elasticsearch创建专用用户 出于安全考虑不应使用root用户运行ES。groupadd elsearch useradd elsearch -g elsearch下载安装包 前往 Elastic官网下载中心 获取最新8.x版本的Linux TAR包。或者直接用wget下载。cd /opt wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-8.11.0-linux-x86_64.tar.gz实操心得 版本号请替换为最新的稳定版。下载前最好用sha512sum校验一下文件完整性避免因网络问题导致安装包损坏。解压并设置权限tar -zxvf elasticsearch-8.11.0-linux-x86_64.tar.gz mv elasticsearch-8.11.0 elasticsearch chown -R elsearch:elsearch /opt/elasticsearch切换用户并准备目录su - elsearch cd /opt/elasticsearch mkdir -p data logsdata目录用于存储索引数据logs目录用于存储运行日志。将它们从默认的$ES_HOME下分离出来便于管理和备份。3.2 关键配置文件详解与定制这是整个搭建过程的核心配置文件位于/opt/elasticsearch/config/elasticsearch.yml。我们将逐项拆解。首先备份原始文件cp elasticsearch.yml elasticsearch.yml.bak然后清空或注释掉原有内容填入以下配置。请注意三台服务器的配置基本相同只有node.name和网络地址部分需要区分。# 集群核心标识 # 集群名称所有节点必须相同 cluster.name: my-es-cluster # 节点名称每个节点必须唯一 node.name: node-1 # 在node-2上改为 node-2 node-3上改为 node-3 # 数据与日志路径 # 自定义数据和日志路径避免放在安装目录下 path.data: /opt/elasticsearch/data path.logs: /opt/elasticsearch/logs # 网络绑定与发现 # 绑定到所有网络接口以便其他节点访问 network.host: 0.0.0.0 # HTTP API端口浏览器、Kibana、程序调用 http.port: 9200 # 节点间通信端口 transport.port: 9300 # 集群初始主节点列表。新节点通过联系这些“种子”来加入集群。 # 这里列出所有可能成为主节点的地址。通常包含所有节点。 discovery.seed_hosts: [node-1:9300, node-2:9300, node-3:9300] # 初始主节点候选者。在集群首次启动时从该列表中选举一个主节点。 # 这里我们指定node-1, node-2, node-3都参与初始选举。 cluster.initial_master_nodes: [node-1, node-2, node-3] # 节点角色ES 7.9 # 默认节点同时具有 master, data, ingest 角色。这里显式声明更清晰。 node.roles: [master, data, ingest] # 安全配置 (ES 8.x 重点) # ES 8.x 默认开启安全功能TLS、用户认证。对于内网测试集群我们可以暂时禁用。 # 生产环境强烈建议开启并妥善配置证书和用户。 xpack.security.enabled: false xpack.security.enrollment.enabled: false # 禁用SSL/TLS用于HTTP接口因为上面关闭了安全 xpack.security.http.ssl: enabled: false # 禁用SSL/TLS用于节点间通信 xpack.security.transport.ssl: enabled: false # 其他重要优化 # 启动时锁定内存防止ES内存被交换到磁盘影响性能 bootstrap.memory_lock: true # 网关恢复集群状态前需要有多少个节点存活。防止“脑裂”后数据不一致。 # 对于3节点集群设置为 (节点总数 / 2) 1 2 gateway.recover_after_nodes: 2 # 允许删除所有索引谨慎设置生产环境建议为 false action.destructive_requires_name: false配置深度解析discovery.seed_hostsvscluster.initial_master_nodes 前者是“通讯录”告诉节点去哪找同伴后者是“第一届委员会候选人名单”只在集群首次启动时使用。集群稳定运行后即使initial_master_nodes里的节点全挂了剩下的节点也能重新选举出新主节点。所以后续重启集群时这个参数不重要。network.host: 0.0.0.0 绑定到所有IP方便访问。生产环境应绑定到具体的内网IP并配置防火墙。安全关闭警告 我们关闭了安全功能是为了简化初次搭建。这意味着你的ES集群在网络上“裸奔”。在任何可被公网访问或对安全有要求的环境必须开启xpack.security并配置TLS证书和强密码。ES首次启动时会为你在控制台打印默认用户(elastic)的密码请务必保存。接下来配置JVM参数。文件是config/jvm.options。主要调整堆内存大小。根据你的机器内存来定例如机器有8G内存# 在文件开头附近找到并修改 -Xms4g -Xmx4g将堆内存最小和最大值都设为4G约为系统内存的50%。切记-Xms和-Xmx必须设置成一样大避免运行时堆内存动态调整引发GC停顿。3.3 启动集群与验证切换到elsearch用户启动如果当前不是su - elsearch cd /opt/elasticsearch前台启动用于观察日志排查问题./bin/elasticsearch如果看到日志中输出master not discovered yet然后很快又输出elected as master并且最后有started的字样说明本节点启动成功并可能被选为了主节点。首次启动排错 如果启动失败请第一时间查看logs/my-es-cluster.log集群名作为日志文件名。常见错误内存不足、文件描述符限制、Java版本不对、配置文件语法错误如缩进用了Tab键YAML只允许空格。后台启动正常运行时./bin/elasticsearch -d -p pid-d表示守护进程-p pid将进程ID写入pid文件。在三台服务器上依次启动ES服务。验证集群状态 在任意节点使用curl命令或浏览器访问其HTTP APIcurl -X GET http://localhost:9200/_cluster/health?pretty你会得到一个JSON响应重点关注status、number_of_nodes和active_shards_percent字段。{ cluster_name : my-es-cluster, status : green, // 集群健康状态green(健康), yellow(部分副本未分配), red(有主分片未分配) timed_out : false, number_of_nodes : 3, // 节点数量应为3 number_of_data_nodes : 3, active_primary_shards : 0, active_shards : 0, relocating_shards : 0, initializing_shards : 0, unassigned_shards : 0, delayed_unassigned_shards : 0, number_of_pending_tasks : 0, number_of_in_flight_fetch : 0, task_max_waiting_in_queue_millis : 0, active_shards_percent_as_number : 100.0 }当status为green且number_of_nodes为3时恭喜你集群搭建成功 你也可以访问http://节点IP:9200/_cat/nodes?v查看所有节点信息。4. Kibana的安装与对接ES集群Kibana是ES的“眼睛”我们将其安装在其中一台节点上如node-1。4.1 下载与安装Kibana下载以root或具有sudo权限的用户操作cd /opt wget https://artifacts.elastic.co/downloads/kibana/kibana-8.11.0-linux-x86_64.tar.gz tar -zxvf kibana-8.11.0-linux-x86_64.tar.gz mv kibana-8.11.0 kibana chown -R elsearch:elsearch /opt/kibana版本对齐 Kibana的主版本号必须与Elasticsearch完全一致此处都是8.11.0否则可能无法连接。配置Kibana 编辑/opt/kibana/config/kibana.yml文件。su - elsearch cd /opt/kibana/config vi kibana.yml找到并修改以下关键配置# 服务端口 server.port: 5601 # 绑定地址0.0.0.0允许从其他机器访问 server.host: 0.0.0.0 # 你的ES集群中任意一个或多个节点的HTTP地址 elasticsearch.hosts: [http://node-1:9200, http://node-2:9200, http://node-3:9200] # 由于我们禁用了ES安全这里也无需配置用户名密码 # elasticsearch.username: elastic # elasticsearch.password: your_password # 设置界面语言为中文 i18n.locale: zh-CN4.2 启动Kibana并访问启动Kibanacd /opt/kibana ./bin/kibana同样首次建议前台启动观察日志。看到日志输出[info][listening] Server running at http://0.0.0.0:5601即表示启动成功。后台启动nohup ./bin/kibana kibana.log 21 访问Kibana 打开浏览器访问http://安装Kibana的服务器IP:5601。如果一切正常你将看到Kibana的欢迎界面。验证连接 进入Kibana后点击左侧菜单栏最底部的Management-Stack Management-Index Management。如果能看到界面并且没有报错说明Kibana已经成功连接到了你的ES集群。5. 集群运维、故障排查与性能调优指南集群跑起来只是第一步如何让它稳定、高效地运行才是真正的挑战。这里分享一些实战中积累的经验和常见问题的解法。5.1 基础运维命令查看集群健康状态curl -X GET “localhost:9200/_cluster/health?pretty”查看节点信息curl -X GET “localhost:9200/_cat/nodes?v”查看所有索引curl -X GET “localhost:9200/_cat/indices?v”查看分片分配情况curl -X GET “localhost:9200/_cat/shards?v”停止ES进程 先找到PID文件启动时-p pid指定的然后kill -SIGTERM pid。切勿使用kill -9这会导致数据损坏。5.2 常见故障与排查实录节点无法加入集群master_not_discovered_exception现象 节点日志一直打印master not discovered yet无法形成集群。排查网络连通性 在节点间互相ping主机名和telnet host 9300确保网络和端口通畅。防火墙 确认所有节点的9300节点通信和9200HTTP API端口已开放。主机名解析 确认/etc/hosts文件配置正确或DNS能正常解析。配置一致性 再次检查所有节点的cluster.name是否完全一致包括大小写。discovery.seed_hosts 确认配置的种子节点地址和端口默认9300准确无误。集群状态为yellow或redyellow 所有主分片已分配但至少有一个副本分片未分配。对于单节点集群这是正常的因为副本无法分配到其他节点。对于多节点集群可能原因新创建的索引副本分片正在初始化。有节点离线导致其上的副本分片丢失。red 至少有一个主分片未分配。这是严重问题意味着部分数据完全不可用。排查命令# 查看未分配的分片及原因 curl -X GET “localhost:9200/_cat/shards?hindex,shard,prirep,state,unassigned.reasonsstate” curl -X GET “localhost:9200/_cluster/allocation/explain?pretty” # 获取详细解释常见原因与解决磁盘空间不足 检查_cat/allocation?v。清理磁盘或增加节点。分片分配规则限制 如index.routing.allocation.*设置。节点角色问题 确认数据节点node.roles包含data在线。Kibana无法连接ESKibana server is not ready yet检查Kibana日志tail -f /opt/kibana/logs/kibana.log看具体的连接错误。检查elasticsearch.hosts 确认配置的ES地址和端口9200正确且网络可达。检查ES安全配置 如果ES开启了安全xpack.security.enabled: true则Kibana必须配置正确的用户名密码。我们教程里关闭了安全所以这里不应该有问题。检查ES版本 再次确认ES和Kibana版本号完全一致。5.3 性能调优与安全加固建议JVM堆内存 如前述设置为系统内存的50%且不超过32GB。监控GC情况如果old GC频繁可能需要优化数据结构或查询。磁盘I/O 使用SSD将path.data指向I/O性能最好的挂载点。避免使用NFS等网络存储。分片大小与数量 单个分片大小建议在10GB-50GB之间。分片过多会增加管理开销过少会影响并行性能。在创建索引时通过number_of_shards参数设置。索引模板与生命周期管理(ILM) 对于时序数据如日志使用索引模板和ILM策略自动管理索引的创建、滚动、冻结和删除避免单个索引无限膨胀。开启安全生产环境必须在elasticsearch.yml中设置xpack.security.enabled: true。首次启动ES会在控制台输出elastic用户的初始密码。用此密码登录并重置所有内置用户密码。为你的应用程序创建具有最小权限的专属用户而不是使用elastic超级用户。配置TLS证书用于节点间和HTTP层加密。可以使用ES自带的elasticsearch-certutil工具生成。Kibana配置中需填写对应用户名密码。监控与告警 利用ES自带的监控功能X-Pack Monitoring或集成PrometheusGrafana监控集群健康、节点资源、索引性能等关键指标并设置告警。搭建和运维一个Elasticsearch集群是一个系统工程从安装部署到性能调优每一步都需要耐心和细致。这个教程带你走通了从零到一的过程但真正的精通来自于在真实业务场景中不断遇到问题、解决问题的实践。建议你在测试环境多模拟一些故障场景比如停掉一个节点观察集群恢复或者制造索引压力测试分片分配这些经验在未来线上问题排查时会无比珍贵。记住配置文件里的每一个参数都有它的设计意图理解它们你才能更好地驾驭这个强大的搜索和分析引擎。