![cover](https://img-blog.csdnimg.cn/47b85c50203540f4b7f62c3ef40b0a72.jpg?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAa2Fma2FfenN4cQ==,size_20,color_FFFFFF,t_70,g_se,x_16)
Kafka的Topic和Partition是不是有个数限制?
Topic官方没有给具体建议数字,我们之前的最佳实践一个集群上有2W+ Topic无压力Partition官方给过一个公式可以参考:每个Broker的Partition数量最好限制在100 × b × r(b是Broker数,r是Partition副本数),滴滴的最佳实践是单节点Parttion不易超过1000个,大量小文件容易导致HDD盘的读写性能下降如果Partiton数过多,对于0.10.X
·
Topic官方没有给具体建议数字,我们之前的最佳实践一个集群上有2W+ Topic无压力
Partition官方给过一个公式可以参考:
每个Broker的Partition数量最好限制在100 × b × r(b是Broker数,r是Partition副本数),滴滴的最佳实践是单节点Parttion不易超过1000个,大量小文件容易导致HDD盘的读写性能下降
如果Partiton数过多,对于0.10.X版本的元数据处理有性能瓶颈(主要是频繁读写ZK导致),之后的集群版本支持几十W Partiton没啥问题
国内最大最权威的 Kafka中文社区 ,在这里你可以结交各大互联网Kafka大佬以及近2000+Kafka爱好者,一起实现知识共享,实时掌控最新行业资讯,免费加入中~
更多推荐
所有评论(0)