使用Kafka 3.2.3内置的Zookeeper

发布于:2025-03-28 ⋅ 阅读:(32) ⋅ 点赞:(0)

目录标题

      • Kafka 3.2.3 内置 ZooKeeper 使用步骤
        • 1. 下载与解压
        • 2. 配置 ZooKeeper
        • 3. 配置 Kafka
        • 4. 启动 ZooKeeper
        • 5. 启动 Kafka
      • 注意事项
      • 环境检查
        • 1. 连接 ZooKeeper 并查看 Broker ID
        • 2. 尝试查看 Kafka Broker API 版本

Kafka 3.2.3 内置 ZooKeeper 使用步骤

1. 下载与解压

从 Kafka 官网(http://kafka.apache.org/downloads.html )下载编译好的可直接使用的 Kafka 3.2.3 安装包,然后上传至服务器并解压。以下是具体命令示例:

wget https://archive.apache.org/dist/kafka/3.2.3/kafka_2.13-3.2.3.tgz
tar -xzvf kafka_2.13-3.2.3.tgz
mv kafka_2.13-3.2.3 kafka
2. 配置 ZooKeeper

进入解压目录下的 config 文件夹,打开 zookeeper.properties 文件进行配置:

  • dataDir:自定义 ZooKeeper 的数据目录,例如 dataDir=/usr/local/kafka/zookeeper_data,要确保该目录存在。可使用以下命令查看和修改配置:
cd kafka/config
grep dataDir zookeeper.properties
# 如果需要修改,可使用 vim 或其他编辑器打开文件进行修改
vim zookeeper.properties
  • clientPort:ZooKeeper 监听的端口号,默认是 2181,可根据需求进行修改。同样可以使用 grep 命令查看配置:
grep clientPort zookeeper.properties
3. 配置 Kafka

config 文件夹中,打开 server.properties 文件配置相关参数:

  • broker.id:设置 Kafka 节点的唯一标识,例如 broker.id=1。使用以下命令查看和修改配置:
grep broker.id server.properties
vim server.properties
  • advertised.listeners:配置监听地址,需要修改为本机 IP 和端口,例如 advertised.listeners=PLAINTEXT://192.168.1.100:9092
grep advertised.listeners server.properties
  • zookeeper.connect:指定 ZooKeeper 连接地址和端口,默认 zookeeper.connect=localhost:2181,若修改了 clientPort,这里的端口也要相应调整。
grep zookeeper.connect server.properties
  • 其他参数:如 num.network.threads(处理网络请求的线程数量)、log.dirs(Kafka 运行日志存放路径)等,可根据需求调整。
4. 启动 ZooKeeper

进入解压后的 Kafka 目录下的 bin 文件夹,在 Linux 系统中执行命令:

./zookeeper-server-start.sh config/zookeeper.properties

在 Windows 系统中则执行:

.\windows\zookeeper-server-start.bat .\config\zookeeper.properties

启动成功后,ZooKeeper 会监听配置的端口(默认 2181)。可以使用 netstat 命令检查端口监听情况:

netstat -nalp | grep 2181
5. 启动 Kafka

同样在 bin 文件夹下,Linux 系统执行命令:

./kafka-server-start.sh config/server.properties

若希望以守护进程模式启动,让 Kafka 在后台运行,执行:

./kafka-server-start.sh -daemon config/server.properties &

Windows 系统执行:

.\windows\kafka-server-start.bat .\config\server.properties

启动完成后,Kafka 就可以基于内置的 ZooKeeper 正常运行,之后可以通过 Kafka 提供的命令行工具,如创建主题(kafka-topics.sh)、生产消息(kafka-console-producer.sh)、消费消息(kafka-console-consumer.sh)等进行相关操作。

注意事项

  • 在启动 ZooKeeper 和 Kafka 时,若遇到路径问题,可使用绝对路径指定配置文件,避免相对路径可能带来的问题。
  • 若启动失败,可查看相应的日志文件获取详细的错误信息,日志文件通常位于 Kafka 安装目录下的 logs 文件夹中。

环境检查

1. 连接 ZooKeeper 并查看 Broker ID

使用 ./zookeeper-shell.sh 10.10.180.15:2181 成功连接到 ZooKeeper 服务,执行 ls /brokers/ids 命令后发现存在一个 Broker,其 ID 为 0。

2. 尝试查看 Kafka Broker API 版本

执行 ./kafka-broker-api-versions.sh --bootstrap-server 10.10.180.15:9092,但这里未给出该命令执行的结果。