目录标题
-
-
- Kafka 3.2.3 内置 ZooKeeper 使用步骤
-
- 1. 下载与解压
- 2. 配置 ZooKeeper
- 3. 配置 Kafka
- 4. 启动 ZooKeeper
- 5. 启动 Kafka
- 注意事项
- 环境检查
-
- 1. 连接 ZooKeeper 并查看 Broker ID
- 2. 尝试查看 Kafka Broker API 版本
-
Kafka 3.2.3 内置 ZooKeeper 使用步骤
1. 下载与解压
从 Kafka 官网(http://kafka.apache.org/downloads.html )下载编译好的可直接使用的 Kafka 3.2.3 安装包,然后上传至服务器并解压。以下是具体命令示例:
wget https://archive.apache.org/dist/kafka/3.2.3/kafka_2.13-3.2.3.tgz
tar -xzvf kafka_2.13-3.2.3.tgz
mv kafka_2.13-3.2.3 kafka
2. 配置 ZooKeeper
进入解压目录下的 config
文件夹,打开 zookeeper.properties
文件进行配置:
dataDir
:自定义 ZooKeeper 的数据目录,例如dataDir=/usr/local/kafka/zookeeper_data
,要确保该目录存在。可使用以下命令查看和修改配置:
cd kafka/config
grep dataDir zookeeper.properties
# 如果需要修改,可使用 vim 或其他编辑器打开文件进行修改
vim zookeeper.properties
clientPort
:ZooKeeper 监听的端口号,默认是 2181,可根据需求进行修改。同样可以使用grep
命令查看配置:
grep clientPort zookeeper.properties
3. 配置 Kafka
在 config
文件夹中,打开 server.properties
文件配置相关参数:
broker.id
:设置 Kafka 节点的唯一标识,例如broker.id=1
。使用以下命令查看和修改配置:
grep broker.id server.properties
vim server.properties
advertised.listeners
:配置监听地址,需要修改为本机 IP 和端口,例如advertised.listeners=PLAINTEXT://192.168.1.100:9092
。
grep advertised.listeners server.properties
zookeeper.connect
:指定 ZooKeeper 连接地址和端口,默认zookeeper.connect=localhost:2181
,若修改了clientPort
,这里的端口也要相应调整。
grep zookeeper.connect server.properties
- 其他参数:如
num.network.threads
(处理网络请求的线程数量)、log.dirs
(Kafka 运行日志存放路径)等,可根据需求调整。
4. 启动 ZooKeeper
进入解压后的 Kafka 目录下的 bin
文件夹,在 Linux 系统中执行命令:
./zookeeper-server-start.sh config/zookeeper.properties
在 Windows 系统中则执行:
.\windows\zookeeper-server-start.bat .\config\zookeeper.properties
启动成功后,ZooKeeper 会监听配置的端口(默认 2181)。可以使用 netstat
命令检查端口监听情况:
netstat -nalp | grep 2181
5. 启动 Kafka
同样在 bin
文件夹下,Linux 系统执行命令:
./kafka-server-start.sh config/server.properties
若希望以守护进程模式启动,让 Kafka 在后台运行,执行:
./kafka-server-start.sh -daemon config/server.properties &
Windows 系统执行:
.\windows\kafka-server-start.bat .\config\server.properties
启动完成后,Kafka 就可以基于内置的 ZooKeeper 正常运行,之后可以通过 Kafka 提供的命令行工具,如创建主题(kafka-topics.sh
)、生产消息(kafka-console-producer.sh
)、消费消息(kafka-console-consumer.sh
)等进行相关操作。
注意事项
- 在启动 ZooKeeper 和 Kafka 时,若遇到路径问题,可使用绝对路径指定配置文件,避免相对路径可能带来的问题。
- 若启动失败,可查看相应的日志文件获取详细的错误信息,日志文件通常位于 Kafka 安装目录下的
logs
文件夹中。
环境检查
1. 连接 ZooKeeper 并查看 Broker ID
使用 ./zookeeper-shell.sh 10.10.180.15:2181
成功连接到 ZooKeeper 服务,执行 ls /brokers/ids
命令后发现存在一个 Broker,其 ID 为 0。
2. 尝试查看 Kafka Broker API 版本
执行 ./kafka-broker-api-versions.sh --bootstrap-server 10.10.180.15:9092
,但这里未给出该命令执行的结果。