记录一次kafka topic 消费不到数据问题排查

如果数量小于既定kafka broker数说明kafka挂了,需要重启kafkakafka.1.server status #检查kafka.1.server start #启动如果无上述命令,执行 history|grep kafka , 查看kafka相关启动命令如果执行命令无法启动kafka,极有可能是内存不足或者磁盘不足内存不足执行top命令,看哪个应用占的比较多,能干掉的先干掉如果磁盘不

tudou186

4554人浏览 · 2021-07-23 18:05:41

tudou186 · 2021-07-23 18:05:41 发布

如果数量小于既定kafka broker数说明kafka挂了,需要重启kafka

kafka.1.server status #检查

kafka.1.server start #启动

如果无上述命令,执行 history|grep kafka , 查看kafka相关启动命令

如果执行命令无法启动kafka,极有可能是内存不足或者磁盘不足

内存不足

执行top命令,看哪个应用占的比较多,能干掉的先干掉

如果磁盘不足

执行df -h ,看是哪个文件过大导致,清理出多余的磁盘空间

检查topic

1、进入test,cd /usr /local/kafka/1/bin
2、命令行1 消费数据判定 ,检查kafka topic是否正常,注意 broker地址和topic替换成你需要确认的kafka地址和topic名字

sh kafka-console-consumer.sh --bootstrap-server 100.30.200.155:15366 --topic DC_REACH_DESTINATION_EVENT_NOTIFY --new-consumer

查看是否有消息进来

3、命令2 ,执行消费, 模拟kafka数据发送,注意 broker地址和topic替换成你需要确认的kafka地址和topic名字

sh kafka-console-producer.sh --broker-list 100.30.200.155:15366 --topic DC_REACH_DESTINATION_EVENT_NOTIFY

命令行2,输入消息具体消息

[operadmin@test bin]$ sh kafka-console-producer.sh --broker-list 100.30.200.155:15366 --topic DC_REACH_DESTINATION_EVENT_NOTIFY

{"msg":"123"}

如果命令行1正常收到以下消息,说明kafka及topic正常,检查应用情况

{"msg":"123"}

3、执行以下命令,判定是否消息被同一个组的其他消费者消费

sh /usr/local/kafka/1/bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 100.30.200.155:15366 --group notify-group

[operadmin@test34 bin]$ sh /usr/local/kafka/1/bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 100.30.200.155:15366 --group notify-group --describe

GROUP TOPIC PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG OWNER

notify-group NOTIFY_VOICE 0 1582 1582 0 consumer-2_/100.260.250.190

notify-group NOTIFY_PUSH 0 16319 16319 0 consumer-2_/100.260.250.190

notify-group EMAIL_TOPIC 0 0 0 0 consumer-2_/100.260.250.190

判定是否10.26.250.190上部署的服务是否正确

以及该机器上是否部署了多次应用

华为云开发者联盟

为开发者提供学习成长、分享交流、生态实践、资源工具等服务，帮助开发者快速成长。

更多推荐